基于用户评价的AI创作内容认知研究：创作者身份与内容属性的影响
论文总结
研究机构
Google, United States
摘要
本研究通过实验探讨了在用户无法区分人类和人工智能生成的内容时，内容标注为由AI创作或辅助创作是否会影响用户的感知。实验结果发现，当内容创作者被标识为AI或使用AI协助时，用户对内容的满意度下降，并认为其创作者的资格较低。然而，这些影响并不波及内容的信息性、客观性或娱乐性等其他维度。研究还发现，用户在评价内容时更依赖个人经验而非创作方式。
问题发现
随着人工智能技术的发展，AI生成的内容与人类创作的内容越来越难以区分。这引发了一个问题：如果用户无法判断信息的来源，是否需要标注内容是由AI创作或辅助创作以帮助他们评估信息的可信度？
解决方案
研究人员进行了一项包含三个实验条件（人类创作者、人类+AI协助、纯AI生成）和四种情境（新闻、旅行、健康、笑话）的混合设计实验。参与者对每种版本的内容进行了评价，并在特定场景中做出选择，以了解他们的感知是否与行为一致。
结果
研究结果显示，当内容创作者被标识为AI或使用AI协助时，用户对其满意度较低，认为其创作者的资格较低。然而，这些认知上的影响并未改变他们对内容本身质量（如原创性、呈现方式）的评价。在选择版本时，只有在健康内容上，用户的选择受到了创作者标识的影响，但这种影响并不明显。
总结来说，研究发现对于非高风险或客观性高的内容（如新闻），用户并不特别关注内容是否由AI创作，他们更关心内容本身的质量和实用性。这表明，在一些情境中，标明使用AI可能不会显著影响用户的评价，这可能对决定是否在内容创建过程中公开AI的使用具有重要启示。
举一反三
Q1：AI在内容创作中的使用是否会影响用户的评价？
A1：根据研究，用户对创作者和其使用的AI技术持有正面态度时，可能会感到满意，并认为内容更有创意。然而，如果用户感知到AI更多地参与内容创建，他们可能对创作者的资格产生质疑，并且满意度会降低。
Q2：在不同类型的上下文中（新闻、健康、旅行和笑话），AI使用的影响有何差异？
A2：研究发现，对于新闻内容，用户对AI使用的负面反应最强，其次是健康信息，然后是旅游建议，最后是笑话。这可能反映了风险感知和社会影响的差异。
Q3：如何通过设计更好地向用户传达AI在内容创作中的角色？
A3：为了减少用户的误解，创作者和平台可以更透明地展示AI在内容生成中的作用，例如明确说明是“由某人与AI协作完成”或“AI辅助生成”。此外，强调人类创意和AI技术的互补性，以及如何提升内容的质量、效率或创新性，可能有助于塑造用户对AI使用正面的认知。
信息来源
内容由MiX Copilot基于大语言模型生成，有可能存在错误的风险。