炒股就看金麒麟分析师研报，权威，专业，及时，全面，助您挖掘潜力主题机会！
IT之家7月3日消息，社交媒体X计划利用AI撰写社区注释（communitynotes），其目的是提高事实核查效率，但官方也承认存在明显风险。
该计划可能破坏用户对事实核查系统的信任，因为AI撰写的注释可能不准确且具有误导性。专家警告，AI注释可能导致错误信息扩散，并可能加剧审查负担。
在最新研究论文中，X平台将这一计划描述为一次“升级”，同时解释了AI撰写社区注释可能出现的所有问题。
在理想情况下，X平台描述了AI能够加速和增加错误帖子上的社区注释数量，从而提高平台范围内的事实核查力度。
每个AI撰写的注释将由人工审查员评分，为AI提供反馈，以改善其写作能力。随着AI写作能力提升，人工审查员可以专注于AI无法快速处理的更细微的事实核查任务，例如需要特定专业知识或社会意识的帖子。
如果一切顺利，人类和AI审查员将共同转变X的事实核查方式，甚至探索形成“公共知识生产中人类与AI合作的新形式”。
IT之家援引论文观点，然而，仍然存在一个关键问题：X平台不确定AI撰写的注释是否能够像人类撰写的注释一样准确。
进一步复杂化的是，AI可能会生成“有说服力但错误”的注释，人类评分员可能会因为AI在撰写有说服力、情感共鸣且看似中立的注释方面“异常擅长”而给予好评。这可能会破坏反馈循环，削弱社区注释的可信度，并随着时间的推移，让整个系统变得不那么可靠。
X平台预测，如果无法解决这一难题，最重要的注释的影响可能会被稀释。一种可能的解决方案是取消人工审查流程，将AI撰写的注释应用于“类似上下文”的帖子，但最大的潜在问题是显而易见的：自动匹配人们认为不需要注释的帖子可能会显著削弱系统信任度。
海量资讯、精准解读，尽在新浪财经APP 编辑： 来源：
