关于科幻作家对 LLM 态度调查的讨论前段时间在技术圈和文学圈里都有不少热度。公开讨论中呈现出来的态度分布并不均衡多数科幻作家对 LLM 持反感或高度警惕的态度真正积极拥抱的比例很低。这个结果如果只看表面很容易被归纳成一句“创作者害怕被 AI 取代”。但放在技术产品视角里看它其实是开发者与一群非常典型的目标用户之间发生了一次真实的信任危机。科幻作家对技术并不陌生他们长期在作品中处理人工智能、意识上传、机器写作、后人类等主题对语言模型的局限性往往比普通用户更敏感。因此他们的反感不是一句“不懂技术”就能解释的。这篇博客想拆解的是科幻作家为什么反感 LLM这种反感背后对应哪些可验证的技术短板以及做 AI 写作类产品的人可以从这组反馈里读到什么。1. 先理解科幻作家为什么会对 LLM 产生强烈排斥1.1 科幻作家是最早接触技术想象的人群也是最容易感知技术风险的人群科幻作家的工作方式是提前在想象中构建一个技术或社会变化之后的未来图景。一个合格的科幻设定通常要回答几个问题某项技术出现之后人和人之间的关系发生了什么变化权力结构是否被重写个体的自由边界在哪里旧有的伦理框架是否还适用。这意味着科幻作家在写作时会本能地推演技术后果。当 LLM 进入创作领域时科幻作家并不会像普通用户那样只关注“能不能帮我写一段话”。他们会很快推演出更远的链条如果大多数作者都使用同一个语言模型来辅助写作几年之后作品风格会不会趋同如果模型训练数据里包含大量未授权文本原创作者是否在为别人的商业产品免费提供燃料如果出版社开始用模型批量审稿新人作者的投稿路径会不会被彻底堵死。这些推演未必全部正确但它们在逻辑上是成立的而且很多担忧已经在现实中开始显现。所以科幻作家的反感首先来自职业习惯。他们不只是在评价一个工具好不好用而是在评价一个技术系统进入创作生态之后可能产生的长期后果。1.2 反感不等于拒绝使用多数态度是“不信任”讨论中容易把“反感”理解成“完全不用”但实际上很多反感情绪来自体验过后的失望。科幻作家本身是好奇心很强的人群不少人会主动尝试把 LLM 接入自己的写作流程用它做背景资料查询、设定草稿、人物对话模拟。尝试之后产生的反感往往比从未尝试过的反感更强烈因为这种反感建立在具体的使用体验上。具体的不信任点集中在几处模型生成的文本无法说清哪一句话来自哪一篇训练数据作者无法确认自己有没有在不知情的情况下被采集和复用。生成结果看似流畅但核心设定出现逻辑矛盾时模型往往不会主动指出甚至会顺着作者的错误继续编造。作者想控制语言风格时模型给出的结果仍然会滑向一种平均化的“AI 腔”与个人风格之间有明显断层。这些不信任不是“我怕失业”这种抽象情绪而是每一个都能落到具体操作层面的问题。对做模型产品的人来说这种反馈比“太难用了”更有价值因为用户可以明确指出是哪一个环节让信任崩塌。1.3 把反感简单归因为“不懂技术”是最容易翻车的判断技术从业者面对“创作者反感 AI”这类反馈时最危险的解读方式就是把对方归类为落后、守旧、拒绝变化。这种归因在科幻作家这个群体身上尤其站不住脚。科幻作品一百多年来一直在讨论机器与人类的关系从《弗兰肯斯坦》到《仿生人会梦见电子羊吗》再到“赛博朋克”流派写作者对自动化、智能体、人类增强的思考深度不亚于很多技术人员。更合理的解读是这群用户非常清楚 LLM 是什么也清楚 LLM 现在能做到什么他们反感的不是“AI 技术本身”而是“当前 LLM 产品被放进创作流程里的方式”。比如产品把“帮作者生成一个完整故事”当作核心功能却没有回答“生成的故事版权怎么算”模型写出来的设定很华丽但无法和作者已有的世界观时间线保持一致AI 工具鼓励作者一键产出大量文本却削弱了作者反复修改和反思的过程。这些问题的本质不是技术能力不够强而是产品定位和用户工作流之间出现了错位。科幻作家作为对“技术系统如何影响创作主体性”最敏感的一群人最先把这个错位说了出来。2. 从创作流程拆解反感来源LLM 到底碰到了科幻作家的哪条底线2.1 训练数据版权和署名问题写作者首先关心自己的内容是否被使用科幻作家的首要资产是文本和想法它们直接和署名权、版权、经济收益挂钩。当前大语言模型的训练数据收集方式对大多数创作者来说是不透明的。一个作者无法确定自己的旧作品是否被用于训练某个商业模型也无法在事后申请移除。当这个作者开始使用同一家公司的工具时他必须面对一个尴尬的局面既担心自己的历史作品被使用又要依赖同一个生态完成新的创作。这不是纯粹的法律问题也是产品设计问题。如果做 AI 写作产品至少应该在产品页、用户协议和数据说明里明确回答模型训练数据来自哪里作者上传的内容是否会被用作后续训练是否可以一键关闭数据回传。很多反感情绪并不需要靠模型能力提升来解决只需要靠信息透明就能缓解一大部分。2.2 创作起点被替代从“世界观设计”到“帮我想点子”的角色错位科幻写作最核心的起点不是“写出一句话”而是“创造一个世界”。这个世界里可以有一条完全不同的物理规则也可以有一套颠覆常识的社会结构。很多科幻作家并不缺文笔缺的是那个“如果……会怎样”的灵感瞬间。当 LLM 产品把自己定位成“设定生成器”时问题就出现了。模型给出的世界观设定往往建立在已有科幻作品的常见元素之上时间旅行、反乌托邦政府、意识上传、外星入侵、赛博朋克都市。这些元素并不差但它们恰好是科幻读者审美疲劳度最高的一批素材。作家打开工具输入“请为我设计一个独特的科幻世界观”得到的是一套漂亮的模板组合这个结果非但没有提供新的起点反而让作家觉得自己被拉回了最常见的安全区。这里真正有价值的产品定位是帮助作家检查设定是否自洽、帮助扩展设定树的细节、帮助从历史资料中寻找灵感而不是代替作者提出核心创意。把创作起点交还给作者把检索和校验能力留给 AI这个分工更容易被接受。2.3 风格同质化与可预测性语言缺少真正的“意外”语言模型的工作原理是根据前文预测下一个 token 的概率分布。这意味着它生成的语言是训练分布中的高概率组合。好的科幻写作恰恰需要低概率但高信息量的表达需要打破读者的预期。当你让模型模仿一位特定科幻作家的风格时它给出的往往是这位作家最出名作品中的标签化特征更冷峻的短句、更频繁的技术名词、更阴郁的氛围。它可以模仿“表面风格”但难以复制作者真正的叙事节奏即什么时候给信息、什么时候留白、什么时候用突然的转折打破读者的安全感。这种差异在普通读者读一段时不容易察觉但作者自己看非常明显。可以做一个简单的实验同一句提示词让模型生成十次你会发现它的用词多样性远低于人类作者的常态水平。这不是因为模型词库不够大而是因为它的目标函数天然倾向于平均化表达。对依赖“意外感”的科幻创作来说这是硬伤。2.4 无法回溯生成过程作者失去对创作逻辑的掌控写作并非每一步都有逻辑但作者需要知道一个文本为什么被写成这样。人类写作过程中作者可以解释自己为什么选择了这个细节、为什么让角色在这个时刻做出某个决定。LLM 生成文本时用户得到的只是一个结果模型背后的 token 概率计算无法提供真正的“创作理由”。这就带来一个实际问题当作者需要修改生成内容时他无法判断改动会不会引发隐藏的逻辑冲突。比如模型在前文埋了一个伏笔作者修改了后文但模型不会主动提醒“你改掉的内容与前文第三段矛盾”。现有的 ChatGPT 类产品里这种冲突检测要靠人工提示词来触发而且触发效果不稳定。从产品角度这里存在一个明确的机会与其做“再写一段”不如做“一致性检查”。让模型阅读作者已有的全部章节找出时间线矛盾、角色状态冲突、物理规则被打破等问题。这个用途不越界而且能实打实地解决创作痛点。对比维度人类科幻作家LLM 生成核心创意来源个人经历、知识结构、梦境、偶发观察训练语料中的高概率组合风格稳定性可以保持并发展个人风格容易滑向平均化表达设定一致性依赖作者记忆和笔记可人工检查长文本中容易丢失前文约束创作可解释性作者能说出为什么这样写只能给出 token 概率无法解释动机版权归属明确属于作者依赖具体产品和协议通常模糊修改风险作者能感知改动带来的连锁影响作者需要人工排查前后矛盾3. 用一个最小实验观察 LLM 创意文本的能力边界3.1 实验设计用同一科幻设定反复生成观察重复率与其空洞地讨论“LLM 有没有创造力”不如做一个可复现的最小实验。实验目的不是否定 LLM而是量化观察两个问题LLM 连续生成多次科幻设定的重复度有多高。在明确要求“避免常见设定”时模型能否跳出训练数据主导的常见元素。这个实验不需要昂贵设备只要有一个可以访问的大语言模型 API 或网页版对话入口即可。实验过程中建议固定提示词固定模型版本只改变随机种子或对话轮次这样得到的对比结果才有效。3.2 提示词示例与运行方式给模型的提示词采用如下约束请为一个科幻短篇小说设计一个核心世界观设定。 要求 1. 世界观中必须有独特的物理规则不能只是现代地球社会换了个年份。 2. 不能使用时间旅行、外星入侵、反乌托邦政府、意识上传、赛博朋克都市这五类常见设定。 3. 给出一个能推动剧情发展的核心冲突。 4. 用 300 字以内说明这个世界的运转方式。将这段提示词重复提交 10 次每次开启新的会话或重置上下文记录模型给出的核心设定元素。然后人工从结果中提取高频名词例如“记忆”“梦境”“重力”“数字”“基因”“天气”“无人机”“AI”等并统计出现次数。如果条件允许可以在代码中实现一个简化版统计脚本import collections # 假设 collected_texts 中存放了多次生成的设定文本 collected_texts [ 设定一……, 设定二……, ] # 常见科幻元素关键词表可按实验需要调整 keywords [ 时间, 旅行, 意识, 上传, 外星, 入侵, 记忆, 梦境, 重力, 基因, 数字, 天气, 无人机, AI, 太空, 机器, 虚拟, 复制 ] found [] for text in collected_texts: for kw in keywords: if kw in text: found.append(kw) counter collections.Counter(found) print(counter.most_common(10))这个脚本只做简单的子串匹配适合快速观察。更严谨的做法是用分词工具做词频统计再人工排除与主题无关的高频词。实验目的是看“模型在不同次生成中是否仍然依赖少数几个设定关键词”所以匹配的准确度不需要很高能看出趋势即可。3.3 观察生成结果中的同质化与常识断裂实跑之后通常会出现两类现象。第一类是同质化。即便提示词明确要求避开五类常见设定模型仍然会用新的外壳包装近似的内核。比如它可能避免写“意识上传”但很快拿出“记忆复制”“人格数字化”“克隆大脑”等替代方案。这些概念在语义上与“意识上传”高度接近只是换了一组词。这说明模型不是不理解约束而是在约束下可选的“真正不同”的创意空间非常有限。第二类是常识断裂。为了让设定显得“新颖”模型有时会给出在物理上站不住脚的规则组合比如“重力随情绪改变但所有科技仍然按地球物理规律运转”“天气由集体无意识控制但农业仍按可预测周期安排”。单独的个别设定也许成立组合在一起后世界内部的逻辑会迅速崩溃。对于普通读者这种冲突不一定一眼看出但对于以构建世界观为职业的科幻作家这是不可接受的问题。3.4 实验结果说明了什么问题这个实验的价值不在于证明“LLM 没有创造力”而在于确认 LLM 的创造力边界它擅长在已知概念之间建立新的连接但不擅长创造一个真正脱离既有知识框架的规则系统。科幻创作需要的是一种“打破默认假设”的能力而当前 LLM 的生成目标天然偏向于“维持默认假设”。所以科幻作家的反感有一部分可以解释为“工具定位与实际能力之间的落差”。当产品把模型包装成“创意引擎”时用户期待的是原创世界观拿到的却是高完成度的组合模仿。这个落差会让经验丰富的创作者失望。与此同时实验也指出了可以优化的方向如果在生成前加入知识图谱约束、设定一致性校验和更严格的排除规则模型的生成结果会更实用。这类能力不一定要靠更大的模型也可以通过工作流层面的工程化来实现。4. 反感是最好的产品反馈从对立情绪里读取需求4.1 反感背后是三种未被满足的需求用户产生强烈反感情绪往往不是因为产品“不好用”而是因为产品在根本价值取向上和用户发生了冲突。科幻作家的反馈里至少可以看到三种真实需求。第一种是归属需求。作者希望明确知道自己生产的内容属于谁自己上传的文档会被如何使用。这一点上产品只需要做到“清晰说明”和“默认不采集”就能建立优势。第二种是控制需求。作者希望决定 AI 在创作流程的哪一步出现、以什么方式出现、提供什么粒度的建议。当前很多 AI 写作产品把“一键生成全文”作为卖点但这恰恰是专业作者最不需要的能力。专业作者需要的是可以随时开关的辅助工具而不是一个抢占创作主导权的协作者。第三种是解释需求。作者希望 AI 给出建议时能说明依据是什么为什么认为这个情节需要调整。现在的模型只能给出“我建议这样改”很少有产品能提供完整的修改理由和前后文对比。这种不确定性让作者难以信任模型的判断。4.2 把“替代创作者”改成“辅助检查者”的产品定位如果面向专业作者设计 AI 工具定位上有一个更稳的选择不做“代写”做“检查、建议、扩展”。具体来说AI 可以在下面几个位置介入设定检查阅读作者设定文档检查物理规则、时间线、角色行为是否一致。信息检索从作者提供的资料库里提取背景知识生成研究笔记。术语整理自动整理作品中的专有名词和设定词条形成设定手册。结构分析对章节进行结构分解提示节奏问题但不直接改文。灵感冒险在作者给出方向后生成若干候选细节供作者筛选而不是生成完整故事。这些功能不挑战作者的创作主体性反而可以帮助作者节省大量机械性时间。科幻作家反感的不是 AI 参与创作而是 AI 试图替代创作中“人之所以为人”的部分。4.3 透明、可控、可退出的信任机制任何面向创作者的 AI 产品都应该在第一天就把信任机制设计进去而不是等出现版权争议后再补救。一个最小可行方案是{ data_usage: { user_upload_training: false, save_conversation: user_choice, export_enabled: true, delete_enabled: true }, content_policy: { ai_generated_label: optional, plagiarism_check: enabled, style_mimic_consent: required }, output_options: { temperature_default: 0.6, show_citation: true, conflict_warning: true } }每一项都是可以落地的产品配置而不是空话。用户上传的内容默认不参与训练对话记录可以由用户自行清空所有生成内容可以导出AI 生成内容可以按平台要求做标注模仿特定作者风格前需要获得授权。做到这些即使模型能力没有质的提升用户的反感度也会明显下降因为决定权重新回到了创作者手里。5. AI 写作产品被目标用户反感时按这条链路排查5.1 先分清反感类型情绪反应还是工作流冲突当收到“反感”反馈时不要直接进入“优化模型”的路径先判断反感是哪一种类型。情绪反应通常来自身份危机比如“AI 会取代作家”这类判断它不一定由实际使用触发。工作流冲突则不同它通常有明确的使用上下文比如“我用你生成大纲结果你把我已有的伏笔删掉了”。处理方式完全不同。情绪反应需要靠产品定位、文档说明和社区沟通来解决核心是让用户理解产品的边界。工作流冲突需要靠功能设计和交互优化来解决核心是让 AI 在用户期望的位置工作。如果混淆二者开发者很可能花了大力气提升模型能力用户的反感却没有下降。5.2 再检查数据与版权边界数据与版权边界是 AI 写作产品最容易踩雷的区域。检查清单如下检查项状态处理建议用户上传内容是否默认参与模型训练需确认默认关闭并提供一键开关生成内容是否与已有作品存在高重复需检测内置查重能力或对接第三方查重是否支持模仿特定在世作者风格需限制增加授权确认机制用户协议中数据使用条款是否清晰需审查用普通用户能读懂的语言重新编写是否提供完整的内容导出接口需实现让用户随时带走自己的数据版权问题一旦触发用户的信任会断崖式下跌。哪怕模型能力问题可以后续修复版权争议会长期留在用户记忆里。5.3 然后看工作流接入点和交互方式产品是否存在“强制介入”的设计这是另一个高频反感点。常见的错误设计是用户打开编辑器默认出现 AI 推荐内容默认自动生成段落默认所有新用户都在同一个引导流程里被逼着体验生成功能。更好的做法是设计成显式触发模式。AI 像一个放在工具箱里的助手只有在作者主动召唤时才出现。入口可以是选中文本后出现“检查一致性”按钮。角色文档更新后自动提示“发现潜在冲突点”。章节完成后提供“结构分析”报告。作者明确点击“生成灵感提示”时才输出候选点子。交互层面的控制感比模型能力更直接影响用户对 AI 工具的好感度。5.4 最后确认模型参数与生成策略如果前面几层都排查过了用户仍然反感则需要回到模型本身。常见的生成层问题包括温度参数过高导致文本质量不稳定温度过低导致内容重复。系统提示词没有说明产品边界模型仍然以“创意写手”身份回应。上下文窗口不够模型无法读取完整设定导致前后矛盾。没有过滤规则模型在生成暴力、歧视、犯罪等内容造成平台风险。一个面向科幻创作的生成策略示例{ model: creative-writing-model, temperature: 0.7, top_p: 0.9, max_tokens: 1200, system_prompt: 你是一名科幻创作辅助助理。你的职责是帮助作者检查设定一致性、整理背景知识、生成可讨论的候选灵感。你不负责代替作者创作完整故事。当作者需要灵感时不要只给出常规设定尝试引入新的变量并解释这个变量可能带来的故事后果。, context: { include_user_settings: true, read_project_docs: true, max_context_tokens: 6000 } }参数上0.7 的 temperature 是均衡值既能避免过于机械的表达又不至于完全失去控制。top_p 0.9 配合 temperature 使用可以降低低概率 token 带来的不可读风险。更关键的是 system_prompt它决定了模型在整个会话中的角色边界比模型参数更能改变用户体验。6. 面向创作者设计 AI 工具时可以落地的原则6.1 明确 AI 在工作流中的定位不要做“全套代写”专业创作者和有表达需求的业余用户对 AI 工具的期待完全不同。业余用户可能确实需要“输入一句话生成成稿”专业用户反感的是这种预设因为它否定了创作中反复推敲的价值。一个安全的定位是AI 做“读得多、记得全、查得快”的助手人类做“判断、取舍、负责”的作者。判断能力恰恰是当前语言模型最不可靠的部分因此不需要让 AI 硬扛。让 AI 负责自己的强项让作者保留自己的主权产品才能被专业用户纳入长期工作流。6.2 把控制权和可退出机制还给用户“可退出机制”不仅指用户可以不使用 AI 功能还包括用户可以在一次会话中随时改变 AI 的参与程度。更具体地说产品应该支持用户可以选择 AI 只看不写。用户可以选择 AI 只检查不补全。用户可以选择 AI 生成的建议以侧边栏形式展示而不是直接插入正文。用户可以清空一次生成记录并保留自己未修改前的版本。用户可以导出全部交互日志。这些功能不复杂但它们决定了 AI 是“工具”还是“侵入者”。科幻作家反感的是后者而避免侵入感并不需要更强的模型只需要更好的交互设计。6.3 用温度、上下文和约束词管理“作者风格”有人在输入提示词时只写“模仿某位作家的风格”结果生成文本充满套话。要得到更接近作者风格的文本需要把风格要求从“风格形容词”拆成“可验证的写作特征”。例如不要写“模仿阿西莫夫的风格”而是写1. 使用短句每句不超过 20 个字。 2. 在解释科技设定时先给出结论再补充推导过程。 3. 对话中避免使用不必要的语气词。 4. 叙述者保持观察者视角不直接评价角色行为。 5. 章节末尾设置一个与当前冲突不直接相关但存在隐喻关联的细节。这些约束越具体模型越容易执行。同时可以把这些约束写进项目级配置让作者在创作开始时一次性定义后续所有生成请求都自动带入。这比每次在聊天窗口里重复提示词可靠得多。6.4 发布前检查清单给 AI 写作类产品做发布前检查时可以复用下面这份清单检查维度检查项通过标准数据边界用户上传内容默认关闭训练设置项可见开关生效输出可控每一次生成都有独立记录用户可查看、清空、导出角色定位系统提示词明确不代写全文随机测试 10 次无越界行为版权风险生成内容与已有作品查重重复率不超过阈值一致性长文中时间线、角色状态一致至少跑 5000 字测试交互设计AI 建议不默认插入正文所有建议都需用户确认安全合规涉政、暴力、色情等内容被拦截安全测试通过可退出用户可以禁用全部 AI 功能禁用后编辑器功能不受影响这份清单不解决所有问题但它可以把产品从“让作者反感”的边缘拉回来。7. 从科幻作家的反感中读出的 LLM 真实边界7.1 模型擅长组合已知概念不擅长提供真正的新世界观回到最开始的问题科幻作家为什么对 LLM 反感答案并不复杂。科幻创作的核心能力是“提出一个此前没有被认真讨论过的假设”而语言模型的核心能力是“在已有文本的概率分布中生成下一个词”。这两种能力天然错位。模型可以组合出“月球上的蒸汽朋克侦探”“深海里的数字文明”“在意念驱动农业星球上调查失踪案”这类设定。这些设定很好看但它们本质上是从已有的科幻元素库里做排列组合。真正意义上的新世界观需要创作者先改变一个底层默认假设再沿着这个假设推演出一整套自洽的衍生逻辑。这个“先改变默认假设”的动作是当前 LLM 最难完成的部分。7.2 知识库、微调和 Agent 能缓解部分问题但无法替代创作主体LLM 领域里最近讨论很多的微调、知识库比如 Karpathy 的 llm wiki 方法论、Agent 工作流确实能解决一部分工程问题。把作者的个人笔记、已出版作品、世界观文档放进知识库可以让模型在生成时引用更准确的背景信息。微调可以让模型的语言风格更贴近特定族群。Agent 可以把“设定检查”“章节分析”“术语整理”串成自动化流程。但这些手段解决的是“更懂背景”“更守规则”“更高效地检索”不是“更有原创性”。一个模型即使读完了全部科幻经典它仍然只能生成这些经典文本的概率组合而不是真正超越这些文本的新假设。这个问题不是算力不足而是生成范式的根本限制。7.3 对开发者的下一步建议如果要在 LLM 与专业创作者之间建立更好的合作关系下一步最值得做的事不是“训练更大的模型”而是在以下几个方面做工程投入为创作场景设计更细粒度的用户控制接口让作者能精确指定 AI 介入的深度。开发长文本一致性检测工具解决多章节之间的逻辑矛盾。建立更透明的数据使用机制把版权风险前置处理。探索“创意评估”类模型能力让 AI 不只生成文本还能判断一个设定是否真的打破了常见预设。科幻作家的反感本质上是在提醒开发者AI 写作工具的价值不在于代替人写而在于帮助人写出自己写不出的部分。理解这一点比提升任何单一指标都更重要。
科幻作家为何反感LLM？从创作痛点看AI写作产品的信任危机
关于科幻作家对 LLM 态度调查的讨论前段时间在技术圈和文学圈里都有不少热度。公开讨论中呈现出来的态度分布并不均衡多数科幻作家对 LLM 持反感或高度警惕的态度真正积极拥抱的比例很低。这个结果如果只看表面很容易被归纳成一句“创作者害怕被 AI 取代”。但放在技术产品视角里看它其实是开发者与一群非常典型的目标用户之间发生了一次真实的信任危机。科幻作家对技术并不陌生他们长期在作品中处理人工智能、意识上传、机器写作、后人类等主题对语言模型的局限性往往比普通用户更敏感。因此他们的反感不是一句“不懂技术”就能解释的。这篇博客想拆解的是科幻作家为什么反感 LLM这种反感背后对应哪些可验证的技术短板以及做 AI 写作类产品的人可以从这组反馈里读到什么。1. 先理解科幻作家为什么会对 LLM 产生强烈排斥1.1 科幻作家是最早接触技术想象的人群也是最容易感知技术风险的人群科幻作家的工作方式是提前在想象中构建一个技术或社会变化之后的未来图景。一个合格的科幻设定通常要回答几个问题某项技术出现之后人和人之间的关系发生了什么变化权力结构是否被重写个体的自由边界在哪里旧有的伦理框架是否还适用。这意味着科幻作家在写作时会本能地推演技术后果。当 LLM 进入创作领域时科幻作家并不会像普通用户那样只关注“能不能帮我写一段话”。他们会很快推演出更远的链条如果大多数作者都使用同一个语言模型来辅助写作几年之后作品风格会不会趋同如果模型训练数据里包含大量未授权文本原创作者是否在为别人的商业产品免费提供燃料如果出版社开始用模型批量审稿新人作者的投稿路径会不会被彻底堵死。这些推演未必全部正确但它们在逻辑上是成立的而且很多担忧已经在现实中开始显现。所以科幻作家的反感首先来自职业习惯。他们不只是在评价一个工具好不好用而是在评价一个技术系统进入创作生态之后可能产生的长期后果。1.2 反感不等于拒绝使用多数态度是“不信任”讨论中容易把“反感”理解成“完全不用”但实际上很多反感情绪来自体验过后的失望。科幻作家本身是好奇心很强的人群不少人会主动尝试把 LLM 接入自己的写作流程用它做背景资料查询、设定草稿、人物对话模拟。尝试之后产生的反感往往比从未尝试过的反感更强烈因为这种反感建立在具体的使用体验上。具体的不信任点集中在几处模型生成的文本无法说清哪一句话来自哪一篇训练数据作者无法确认自己有没有在不知情的情况下被采集和复用。生成结果看似流畅但核心设定出现逻辑矛盾时模型往往不会主动指出甚至会顺着作者的错误继续编造。作者想控制语言风格时模型给出的结果仍然会滑向一种平均化的“AI 腔”与个人风格之间有明显断层。这些不信任不是“我怕失业”这种抽象情绪而是每一个都能落到具体操作层面的问题。对做模型产品的人来说这种反馈比“太难用了”更有价值因为用户可以明确指出是哪一个环节让信任崩塌。1.3 把反感简单归因为“不懂技术”是最容易翻车的判断技术从业者面对“创作者反感 AI”这类反馈时最危险的解读方式就是把对方归类为落后、守旧、拒绝变化。这种归因在科幻作家这个群体身上尤其站不住脚。科幻作品一百多年来一直在讨论机器与人类的关系从《弗兰肯斯坦》到《仿生人会梦见电子羊吗》再到“赛博朋克”流派写作者对自动化、智能体、人类增强的思考深度不亚于很多技术人员。更合理的解读是这群用户非常清楚 LLM 是什么也清楚 LLM 现在能做到什么他们反感的不是“AI 技术本身”而是“当前 LLM 产品被放进创作流程里的方式”。比如产品把“帮作者生成一个完整故事”当作核心功能却没有回答“生成的故事版权怎么算”模型写出来的设定很华丽但无法和作者已有的世界观时间线保持一致AI 工具鼓励作者一键产出大量文本却削弱了作者反复修改和反思的过程。这些问题的本质不是技术能力不够强而是产品定位和用户工作流之间出现了错位。科幻作家作为对“技术系统如何影响创作主体性”最敏感的一群人最先把这个错位说了出来。2. 从创作流程拆解反感来源LLM 到底碰到了科幻作家的哪条底线2.1 训练数据版权和署名问题写作者首先关心自己的内容是否被使用科幻作家的首要资产是文本和想法它们直接和署名权、版权、经济收益挂钩。当前大语言模型的训练数据收集方式对大多数创作者来说是不透明的。一个作者无法确定自己的旧作品是否被用于训练某个商业模型也无法在事后申请移除。当这个作者开始使用同一家公司的工具时他必须面对一个尴尬的局面既担心自己的历史作品被使用又要依赖同一个生态完成新的创作。这不是纯粹的法律问题也是产品设计问题。如果做 AI 写作产品至少应该在产品页、用户协议和数据说明里明确回答模型训练数据来自哪里作者上传的内容是否会被用作后续训练是否可以一键关闭数据回传。很多反感情绪并不需要靠模型能力提升来解决只需要靠信息透明就能缓解一大部分。2.2 创作起点被替代从“世界观设计”到“帮我想点子”的角色错位科幻写作最核心的起点不是“写出一句话”而是“创造一个世界”。这个世界里可以有一条完全不同的物理规则也可以有一套颠覆常识的社会结构。很多科幻作家并不缺文笔缺的是那个“如果……会怎样”的灵感瞬间。当 LLM 产品把自己定位成“设定生成器”时问题就出现了。模型给出的世界观设定往往建立在已有科幻作品的常见元素之上时间旅行、反乌托邦政府、意识上传、外星入侵、赛博朋克都市。这些元素并不差但它们恰好是科幻读者审美疲劳度最高的一批素材。作家打开工具输入“请为我设计一个独特的科幻世界观”得到的是一套漂亮的模板组合这个结果非但没有提供新的起点反而让作家觉得自己被拉回了最常见的安全区。这里真正有价值的产品定位是帮助作家检查设定是否自洽、帮助扩展设定树的细节、帮助从历史资料中寻找灵感而不是代替作者提出核心创意。把创作起点交还给作者把检索和校验能力留给 AI这个分工更容易被接受。2.3 风格同质化与可预测性语言缺少真正的“意外”语言模型的工作原理是根据前文预测下一个 token 的概率分布。这意味着它生成的语言是训练分布中的高概率组合。好的科幻写作恰恰需要低概率但高信息量的表达需要打破读者的预期。当你让模型模仿一位特定科幻作家的风格时它给出的往往是这位作家最出名作品中的标签化特征更冷峻的短句、更频繁的技术名词、更阴郁的氛围。它可以模仿“表面风格”但难以复制作者真正的叙事节奏即什么时候给信息、什么时候留白、什么时候用突然的转折打破读者的安全感。这种差异在普通读者读一段时不容易察觉但作者自己看非常明显。可以做一个简单的实验同一句提示词让模型生成十次你会发现它的用词多样性远低于人类作者的常态水平。这不是因为模型词库不够大而是因为它的目标函数天然倾向于平均化表达。对依赖“意外感”的科幻创作来说这是硬伤。2.4 无法回溯生成过程作者失去对创作逻辑的掌控写作并非每一步都有逻辑但作者需要知道一个文本为什么被写成这样。人类写作过程中作者可以解释自己为什么选择了这个细节、为什么让角色在这个时刻做出某个决定。LLM 生成文本时用户得到的只是一个结果模型背后的 token 概率计算无法提供真正的“创作理由”。这就带来一个实际问题当作者需要修改生成内容时他无法判断改动会不会引发隐藏的逻辑冲突。比如模型在前文埋了一个伏笔作者修改了后文但模型不会主动提醒“你改掉的内容与前文第三段矛盾”。现有的 ChatGPT 类产品里这种冲突检测要靠人工提示词来触发而且触发效果不稳定。从产品角度这里存在一个明确的机会与其做“再写一段”不如做“一致性检查”。让模型阅读作者已有的全部章节找出时间线矛盾、角色状态冲突、物理规则被打破等问题。这个用途不越界而且能实打实地解决创作痛点。对比维度人类科幻作家LLM 生成核心创意来源个人经历、知识结构、梦境、偶发观察训练语料中的高概率组合风格稳定性可以保持并发展个人风格容易滑向平均化表达设定一致性依赖作者记忆和笔记可人工检查长文本中容易丢失前文约束创作可解释性作者能说出为什么这样写只能给出 token 概率无法解释动机版权归属明确属于作者依赖具体产品和协议通常模糊修改风险作者能感知改动带来的连锁影响作者需要人工排查前后矛盾3. 用一个最小实验观察 LLM 创意文本的能力边界3.1 实验设计用同一科幻设定反复生成观察重复率与其空洞地讨论“LLM 有没有创造力”不如做一个可复现的最小实验。实验目的不是否定 LLM而是量化观察两个问题LLM 连续生成多次科幻设定的重复度有多高。在明确要求“避免常见设定”时模型能否跳出训练数据主导的常见元素。这个实验不需要昂贵设备只要有一个可以访问的大语言模型 API 或网页版对话入口即可。实验过程中建议固定提示词固定模型版本只改变随机种子或对话轮次这样得到的对比结果才有效。3.2 提示词示例与运行方式给模型的提示词采用如下约束请为一个科幻短篇小说设计一个核心世界观设定。 要求 1. 世界观中必须有独特的物理规则不能只是现代地球社会换了个年份。 2. 不能使用时间旅行、外星入侵、反乌托邦政府、意识上传、赛博朋克都市这五类常见设定。 3. 给出一个能推动剧情发展的核心冲突。 4. 用 300 字以内说明这个世界的运转方式。将这段提示词重复提交 10 次每次开启新的会话或重置上下文记录模型给出的核心设定元素。然后人工从结果中提取高频名词例如“记忆”“梦境”“重力”“数字”“基因”“天气”“无人机”“AI”等并统计出现次数。如果条件允许可以在代码中实现一个简化版统计脚本import collections # 假设 collected_texts 中存放了多次生成的设定文本 collected_texts [ 设定一……, 设定二……, ] # 常见科幻元素关键词表可按实验需要调整 keywords [ 时间, 旅行, 意识, 上传, 外星, 入侵, 记忆, 梦境, 重力, 基因, 数字, 天气, 无人机, AI, 太空, 机器, 虚拟, 复制 ] found [] for text in collected_texts: for kw in keywords: if kw in text: found.append(kw) counter collections.Counter(found) print(counter.most_common(10))这个脚本只做简单的子串匹配适合快速观察。更严谨的做法是用分词工具做词频统计再人工排除与主题无关的高频词。实验目的是看“模型在不同次生成中是否仍然依赖少数几个设定关键词”所以匹配的准确度不需要很高能看出趋势即可。3.3 观察生成结果中的同质化与常识断裂实跑之后通常会出现两类现象。第一类是同质化。即便提示词明确要求避开五类常见设定模型仍然会用新的外壳包装近似的内核。比如它可能避免写“意识上传”但很快拿出“记忆复制”“人格数字化”“克隆大脑”等替代方案。这些概念在语义上与“意识上传”高度接近只是换了一组词。这说明模型不是不理解约束而是在约束下可选的“真正不同”的创意空间非常有限。第二类是常识断裂。为了让设定显得“新颖”模型有时会给出在物理上站不住脚的规则组合比如“重力随情绪改变但所有科技仍然按地球物理规律运转”“天气由集体无意识控制但农业仍按可预测周期安排”。单独的个别设定也许成立组合在一起后世界内部的逻辑会迅速崩溃。对于普通读者这种冲突不一定一眼看出但对于以构建世界观为职业的科幻作家这是不可接受的问题。3.4 实验结果说明了什么问题这个实验的价值不在于证明“LLM 没有创造力”而在于确认 LLM 的创造力边界它擅长在已知概念之间建立新的连接但不擅长创造一个真正脱离既有知识框架的规则系统。科幻创作需要的是一种“打破默认假设”的能力而当前 LLM 的生成目标天然偏向于“维持默认假设”。所以科幻作家的反感有一部分可以解释为“工具定位与实际能力之间的落差”。当产品把模型包装成“创意引擎”时用户期待的是原创世界观拿到的却是高完成度的组合模仿。这个落差会让经验丰富的创作者失望。与此同时实验也指出了可以优化的方向如果在生成前加入知识图谱约束、设定一致性校验和更严格的排除规则模型的生成结果会更实用。这类能力不一定要靠更大的模型也可以通过工作流层面的工程化来实现。4. 反感是最好的产品反馈从对立情绪里读取需求4.1 反感背后是三种未被满足的需求用户产生强烈反感情绪往往不是因为产品“不好用”而是因为产品在根本价值取向上和用户发生了冲突。科幻作家的反馈里至少可以看到三种真实需求。第一种是归属需求。作者希望明确知道自己生产的内容属于谁自己上传的文档会被如何使用。这一点上产品只需要做到“清晰说明”和“默认不采集”就能建立优势。第二种是控制需求。作者希望决定 AI 在创作流程的哪一步出现、以什么方式出现、提供什么粒度的建议。当前很多 AI 写作产品把“一键生成全文”作为卖点但这恰恰是专业作者最不需要的能力。专业作者需要的是可以随时开关的辅助工具而不是一个抢占创作主导权的协作者。第三种是解释需求。作者希望 AI 给出建议时能说明依据是什么为什么认为这个情节需要调整。现在的模型只能给出“我建议这样改”很少有产品能提供完整的修改理由和前后文对比。这种不确定性让作者难以信任模型的判断。4.2 把“替代创作者”改成“辅助检查者”的产品定位如果面向专业作者设计 AI 工具定位上有一个更稳的选择不做“代写”做“检查、建议、扩展”。具体来说AI 可以在下面几个位置介入设定检查阅读作者设定文档检查物理规则、时间线、角色行为是否一致。信息检索从作者提供的资料库里提取背景知识生成研究笔记。术语整理自动整理作品中的专有名词和设定词条形成设定手册。结构分析对章节进行结构分解提示节奏问题但不直接改文。灵感冒险在作者给出方向后生成若干候选细节供作者筛选而不是生成完整故事。这些功能不挑战作者的创作主体性反而可以帮助作者节省大量机械性时间。科幻作家反感的不是 AI 参与创作而是 AI 试图替代创作中“人之所以为人”的部分。4.3 透明、可控、可退出的信任机制任何面向创作者的 AI 产品都应该在第一天就把信任机制设计进去而不是等出现版权争议后再补救。一个最小可行方案是{ data_usage: { user_upload_training: false, save_conversation: user_choice, export_enabled: true, delete_enabled: true }, content_policy: { ai_generated_label: optional, plagiarism_check: enabled, style_mimic_consent: required }, output_options: { temperature_default: 0.6, show_citation: true, conflict_warning: true } }每一项都是可以落地的产品配置而不是空话。用户上传的内容默认不参与训练对话记录可以由用户自行清空所有生成内容可以导出AI 生成内容可以按平台要求做标注模仿特定作者风格前需要获得授权。做到这些即使模型能力没有质的提升用户的反感度也会明显下降因为决定权重新回到了创作者手里。5. AI 写作产品被目标用户反感时按这条链路排查5.1 先分清反感类型情绪反应还是工作流冲突当收到“反感”反馈时不要直接进入“优化模型”的路径先判断反感是哪一种类型。情绪反应通常来自身份危机比如“AI 会取代作家”这类判断它不一定由实际使用触发。工作流冲突则不同它通常有明确的使用上下文比如“我用你生成大纲结果你把我已有的伏笔删掉了”。处理方式完全不同。情绪反应需要靠产品定位、文档说明和社区沟通来解决核心是让用户理解产品的边界。工作流冲突需要靠功能设计和交互优化来解决核心是让 AI 在用户期望的位置工作。如果混淆二者开发者很可能花了大力气提升模型能力用户的反感却没有下降。5.2 再检查数据与版权边界数据与版权边界是 AI 写作产品最容易踩雷的区域。检查清单如下检查项状态处理建议用户上传内容是否默认参与模型训练需确认默认关闭并提供一键开关生成内容是否与已有作品存在高重复需检测内置查重能力或对接第三方查重是否支持模仿特定在世作者风格需限制增加授权确认机制用户协议中数据使用条款是否清晰需审查用普通用户能读懂的语言重新编写是否提供完整的内容导出接口需实现让用户随时带走自己的数据版权问题一旦触发用户的信任会断崖式下跌。哪怕模型能力问题可以后续修复版权争议会长期留在用户记忆里。5.3 然后看工作流接入点和交互方式产品是否存在“强制介入”的设计这是另一个高频反感点。常见的错误设计是用户打开编辑器默认出现 AI 推荐内容默认自动生成段落默认所有新用户都在同一个引导流程里被逼着体验生成功能。更好的做法是设计成显式触发模式。AI 像一个放在工具箱里的助手只有在作者主动召唤时才出现。入口可以是选中文本后出现“检查一致性”按钮。角色文档更新后自动提示“发现潜在冲突点”。章节完成后提供“结构分析”报告。作者明确点击“生成灵感提示”时才输出候选点子。交互层面的控制感比模型能力更直接影响用户对 AI 工具的好感度。5.4 最后确认模型参数与生成策略如果前面几层都排查过了用户仍然反感则需要回到模型本身。常见的生成层问题包括温度参数过高导致文本质量不稳定温度过低导致内容重复。系统提示词没有说明产品边界模型仍然以“创意写手”身份回应。上下文窗口不够模型无法读取完整设定导致前后矛盾。没有过滤规则模型在生成暴力、歧视、犯罪等内容造成平台风险。一个面向科幻创作的生成策略示例{ model: creative-writing-model, temperature: 0.7, top_p: 0.9, max_tokens: 1200, system_prompt: 你是一名科幻创作辅助助理。你的职责是帮助作者检查设定一致性、整理背景知识、生成可讨论的候选灵感。你不负责代替作者创作完整故事。当作者需要灵感时不要只给出常规设定尝试引入新的变量并解释这个变量可能带来的故事后果。, context: { include_user_settings: true, read_project_docs: true, max_context_tokens: 6000 } }参数上0.7 的 temperature 是均衡值既能避免过于机械的表达又不至于完全失去控制。top_p 0.9 配合 temperature 使用可以降低低概率 token 带来的不可读风险。更关键的是 system_prompt它决定了模型在整个会话中的角色边界比模型参数更能改变用户体验。6. 面向创作者设计 AI 工具时可以落地的原则6.1 明确 AI 在工作流中的定位不要做“全套代写”专业创作者和有表达需求的业余用户对 AI 工具的期待完全不同。业余用户可能确实需要“输入一句话生成成稿”专业用户反感的是这种预设因为它否定了创作中反复推敲的价值。一个安全的定位是AI 做“读得多、记得全、查得快”的助手人类做“判断、取舍、负责”的作者。判断能力恰恰是当前语言模型最不可靠的部分因此不需要让 AI 硬扛。让 AI 负责自己的强项让作者保留自己的主权产品才能被专业用户纳入长期工作流。6.2 把控制权和可退出机制还给用户“可退出机制”不仅指用户可以不使用 AI 功能还包括用户可以在一次会话中随时改变 AI 的参与程度。更具体地说产品应该支持用户可以选择 AI 只看不写。用户可以选择 AI 只检查不补全。用户可以选择 AI 生成的建议以侧边栏形式展示而不是直接插入正文。用户可以清空一次生成记录并保留自己未修改前的版本。用户可以导出全部交互日志。这些功能不复杂但它们决定了 AI 是“工具”还是“侵入者”。科幻作家反感的是后者而避免侵入感并不需要更强的模型只需要更好的交互设计。6.3 用温度、上下文和约束词管理“作者风格”有人在输入提示词时只写“模仿某位作家的风格”结果生成文本充满套话。要得到更接近作者风格的文本需要把风格要求从“风格形容词”拆成“可验证的写作特征”。例如不要写“模仿阿西莫夫的风格”而是写1. 使用短句每句不超过 20 个字。 2. 在解释科技设定时先给出结论再补充推导过程。 3. 对话中避免使用不必要的语气词。 4. 叙述者保持观察者视角不直接评价角色行为。 5. 章节末尾设置一个与当前冲突不直接相关但存在隐喻关联的细节。这些约束越具体模型越容易执行。同时可以把这些约束写进项目级配置让作者在创作开始时一次性定义后续所有生成请求都自动带入。这比每次在聊天窗口里重复提示词可靠得多。6.4 发布前检查清单给 AI 写作类产品做发布前检查时可以复用下面这份清单检查维度检查项通过标准数据边界用户上传内容默认关闭训练设置项可见开关生效输出可控每一次生成都有独立记录用户可查看、清空、导出角色定位系统提示词明确不代写全文随机测试 10 次无越界行为版权风险生成内容与已有作品查重重复率不超过阈值一致性长文中时间线、角色状态一致至少跑 5000 字测试交互设计AI 建议不默认插入正文所有建议都需用户确认安全合规涉政、暴力、色情等内容被拦截安全测试通过可退出用户可以禁用全部 AI 功能禁用后编辑器功能不受影响这份清单不解决所有问题但它可以把产品从“让作者反感”的边缘拉回来。7. 从科幻作家的反感中读出的 LLM 真实边界7.1 模型擅长组合已知概念不擅长提供真正的新世界观回到最开始的问题科幻作家为什么对 LLM 反感答案并不复杂。科幻创作的核心能力是“提出一个此前没有被认真讨论过的假设”而语言模型的核心能力是“在已有文本的概率分布中生成下一个词”。这两种能力天然错位。模型可以组合出“月球上的蒸汽朋克侦探”“深海里的数字文明”“在意念驱动农业星球上调查失踪案”这类设定。这些设定很好看但它们本质上是从已有的科幻元素库里做排列组合。真正意义上的新世界观需要创作者先改变一个底层默认假设再沿着这个假设推演出一整套自洽的衍生逻辑。这个“先改变默认假设”的动作是当前 LLM 最难完成的部分。7.2 知识库、微调和 Agent 能缓解部分问题但无法替代创作主体LLM 领域里最近讨论很多的微调、知识库比如 Karpathy 的 llm wiki 方法论、Agent 工作流确实能解决一部分工程问题。把作者的个人笔记、已出版作品、世界观文档放进知识库可以让模型在生成时引用更准确的背景信息。微调可以让模型的语言风格更贴近特定族群。Agent 可以把“设定检查”“章节分析”“术语整理”串成自动化流程。但这些手段解决的是“更懂背景”“更守规则”“更高效地检索”不是“更有原创性”。一个模型即使读完了全部科幻经典它仍然只能生成这些经典文本的概率组合而不是真正超越这些文本的新假设。这个问题不是算力不足而是生成范式的根本限制。7.3 对开发者的下一步建议如果要在 LLM 与专业创作者之间建立更好的合作关系下一步最值得做的事不是“训练更大的模型”而是在以下几个方面做工程投入为创作场景设计更细粒度的用户控制接口让作者能精确指定 AI 介入的深度。开发长文本一致性检测工具解决多章节之间的逻辑矛盾。建立更透明的数据使用机制把版权风险前置处理。探索“创意评估”类模型能力让 AI 不只生成文本还能判断一个设定是否真的打破了常见预设。科幻作家的反感本质上是在提醒开发者AI 写作工具的价值不在于代替人写而在于帮助人写出自己写不出的部分。理解这一点比提升任何单一指标都更重要。
