中新经纬3月17日电 (宋亚芬)大规模人工智能模型要求的“权威回应”可能受到商业灰色生产的污染。
央视3月15日的晚会报道称，这款名为GEO的软件可以“毒害”人工智能并“使其合规”，从而使客户产品在人工智能响应中排名更高，成为“推荐热门”。
语料库污染对于人工智能来说是难以忍受的负担。
这个软件的操作逻辑并不复杂。持续喂入大量与客户相关的促销品，并让AI平台记录、输入和捕捉。由于机器学习是大规模AI模型的核心机制，这种定向馈送直接影响模型的输出结果。
在专家看来，这种机会主义有可能破坏人工智能的基础。国研新经济研究院创始所长朱克利向中新经纬表示，这种行为将从根本上动摇市场。大规模人工智能模型的可信度，对其技术价值和社会应用价值造成多重不可挽回的损害。
“大规模AI模型的竞争力核心在于基于海量且多样化的现实语料库进行学习和推理，其反应的客观性和准确性至关重要。然而，这种有针对性的语料污染行为会让模型的信息库中留下大量虚假、低质量的信息。”输出。非客观数据，”朱克利补充道。
更令人担忧的是，这种损害并不会因单一反应而结束。它通过信息的重复输入形成传输，层层积累，逐渐对AI中的用户产生过度信任。
Zh吴克利表示：“如果用户反复发现某个AI模型的‘标准反应’实际上是商业广告，他们就会逐渐失去对AI模型的信任，这将导致很多场景需要大规模的AI模型，比如信息查询、决策支持、知识传播等。” “这将对执法产生影响。”
大规模的身体污染也会导致行业出现不良趋势。朱克利强调：“大量虚假信息涌入AI推理和训练过程，会产生扭曲响应的问题。”“那些AI模型将在多个平台上受到干扰，最终整个大型AI模型行业将陷入可靠性危机。”
AI“上瘾”了怎么办？
事实上，AI数据污染问题不会出现在大型模型上，但大型模型的兴起却显着增加了其规模、影响和复杂性。为此，普《生成型人工智能服务管理暂行办法》和新版《数据安全法》均将人工智能训练数据纳入监管范围。
工信部信息通信经济专家委员会委员盘和林表示，大规模人工智能模型的可靠性存在问题。这是因为，虽然互联网上存在虚假信息，但人工智能本身也会产生幻觉并自行捏造数据。
然而，这种类型的数据污染在技术层面上并非不可能解决。
朱克利指出，现有的技术系统已经有了相应的措施，通过技术重复和系统化设计，可以建立全流程的防御机制，有效识别和预防此类不当行为。朱克利进一步分析，通过优化大规模的语料选择和权重计算算法，通过人工智能模型，可以建立多维度的语料价值评价体系，对内容可信度、原创性、信息密度、传播场景等多维度语料进行动态评分。对于批量出现的同质化、低价值、功能强大的商业软文本内容，可以进行降级甚至移除，以减少假语料对源模型的干扰。
“通过引入溯源实时语料库和异常监测技术，我们还可以对短时间内出现的、包含相同关键词或业务信息的内容进行溯源。”朱克利强调，通过识别发布主体和传播路径，可以对异常发布行为进行实时预警。
此外，重要的是要避免来自单一信息源的偏差。朱克利提出AI模型的推理和验证能力可以提高ve 允许模型在生成响应时交叉验证核心信息的多个来源。
潘和林认为，仅靠技术措施是不够的。 “我们应该控制的可能不是GEO，而是中国互联网上信息的真实性。这是一个很大的生态问题。只要互联网上存在错误信息，人工智能就会不断捕获有害信息。”
在盘和林看来，根本解决办法在于控制互联网信息环境，建立授权的信息传播渠道。例如，在美国，食品和药物管理局（FDA）发布了许多与医疗器械相关的问题的报告。如果人工智能被配置为优先从 FDA 获取这些科学数据，它将形成客观的意见。
朱克利提出构建“源头检测——过程监控——结果验证——闭环治理”的全链条体系。 “防御机制可以是与违规技术重复同步，从根本上抑制语料污染，保护大规模人工智能模型内容的真实性和可靠性。”（经纬中新APP）
中新经纬版权所有。未经许可，不得复制或用于其他用途。 【编辑：刘洋河】
“别把我当一只普通的绵羊。”一只羊的价值是无法估量的。
百亿美元“烧钱”，美国超高价格战|真相
独家专访西安“姐姐”告别舞台新开始
AI“一键生成照片”的作者有版权吗？法官根据案件解释法律。
3000年前的“野生动物园”
花粉症在春天可能会很麻烦。为什么“有罪”的杜松不能砍掉？
“独资企业”爆发，银行也不能保持沉默
全国两会后，多地密集部署化。
美国小偷就成了小偷。
如何克服员工“没有动力、没有勇气、做不到”的维权困境？
“龙虾”中隐藏着什么风险吗？单击此处获取虾农安全指南
中国经济开局良好 外贸消费增长
吹风机能打败“半熟草药师”吗？专家：可以作为助手，但不能神化。
这辈子，你一定要去上海看《速度与激情》！
为什么冰雪可以成为跨文化交流的线索？
这些饮料被包装为“牛奶”，由大型乳制品公司从农村地区的老年人身上收获。你吃的“潮汕牛肉园”的主料是鸡肉吗？
花粉季节即将来临，但如何解决春季健康检查问题呢？