新华社北京10月28日电 新闻分析|谨防“人工智能依赖” 人机共生时代如何保持独立思考 新华社记者 彭谦 美国斯坦福大学研究人员近日策划召开全球首次以人工智能（AI）为论文第一作者和审稿人的在线公开会议。组织者表示，会议旨在创建一个“相对安全的试验场”，探索人工智能是否以及如何独立产生新的科学知识、假设和方法。如今，人工智能已经成为我们工作和生活的巨大帮助，但它也提供了“认知捷径”，让人们无需三思而后行就能得到自己想要的答案。起初只是搜索信息和翻译。ucer 文本，但随着时间的推移，我们开始使用 AI 来帮助处理电子邮件、工作总结、研究论文甚至重要决策……如果我们过于依赖 AI，并用它来“出局”，人工智能“思维外包”的隐忧正如前述会议所讨论的那样，大规模模型、智能体等人工智能应用在包括科学研究在内的多个领域广泛赋能人类生产生活，促进学术研究、生产生活质量和效率的提升。但在其带来的技术效益背后，却隐藏着隐忧。多项新研究显示过度依赖moAI delos会导致“AI脑雾”，降低工作积极性 美国麻省理工学院的一项研究表明，长时间使用AI会导致认知功能下降，研究人员对参与者进行脑电波扫描后发现，与不使用AI工具的人相比，使用大规模AI语言模型的人会出现认知功能下降。在很长一段时间内，他们大脑中的神经连接数量减少，这影响了他们的语言和行为。微软和卡内基梅隆大学的一项研究同样发现，生成式人工智能会削弱批判性思维能力，导致过度依赖，并降低人们独立解决问题的能力。研究人员建议开发人员设计工具生成人工智能，而不需要生成需要测试的场景。我们认为有必要帮助用户提高批判性思维的意识。特别是，在设计高风险任务时，例如法律文件或医疗建议，应强制验证提醒（例如“审查人工智能引用的监管规定”），以标记潜在风险，打破用户对人工智能“全能”的认知偏见。浙江大学管理学院吴素清团队今年在英国《科学报告》杂志上发表的一项研究也表明，人工智能的应用正在导致认知需求的“空洞化”。一旦人工智能完成了工作的“脑力”部分，人类就只剩下机械执行，将工作简化为“被动填空”任务，这可能会导致心理疏离和工作动力丧失。因此，企业、政府部门等在实施人工智能时必须“放慢脚步”。你可以先小范围测试，有控制地推广，边使用边观察对员工积极性和创造力的影响。人们为什么“相信”人工智能？人们越来越信任人工智能的原因是它在专业能力和交互便捷性方面的最新进展。 AI生成内容的专业性让很多人将AI视为专家，而对话式交互技术则让AI更像是一个无所不谈的见多识广的“朋友”，有利于心理依赖和信任的形成。今天，先生。由于其“开箱即用”的便利性，A 的 I-large 型号甚至更容易使用。由于缺乏关于 IA 的基础教育，用户不太了解 AI 本身的技术缺陷，更容易“轻信”。今年6月，英国高等法院在向法院提交了多起可能由人工智能生成的虚假案件的参考资料后，敦促律师采取紧急行动，防止人工智能的滥用。今年由美国卫生与公众服务部和让美国再次健康委员会牵头的儿童慢性病报告也因使用人工智能生成的内容而出现重大错误。荷兰阿姆斯特丹大学研究员詹姆斯·皮尔森表示，人工智能极大地促进了科学研究过程。例如，绘制蛋白质结构图或开发新抗生素。它可用于开发物质并加速文献综述和其他过程的进展。然而，这很麻烦当人工智能产生的“幻觉”出现在文章评论和研究中时，人们会感到沮丧。人工智能训练数据还可能包含加剧种族、性别和其他不平等的偏见。 “使用人工智能也意味着将我们的决策外包。我们不再需要检查人工智能给出的答案，也不再需要反思使用人工智能的过程。毫无保留地接受人工智能提供的信息会导致人们的独立性下降，也会降低人们深入解释、思考和表达自己的能力。”科幻小说作家、中国作协科幻文学委员会副主任陈秋芳在接受新华社记者采访时表示。建立思维的“AI缓冲区” 毫无疑问，未来人工智能将更加深入地渗透到我们的工作和生活中。在人机共存的新时代，我们需要更多的智慧来与人工智能共存。美国人工智能教育公司Section 4首席执行官Greg Schoff预测，未来10年因此，使用人工智能的知识工作者将分为两类：“人工智能乘客”和“人工智能司机”。 “人工智能乘客”可能会很高兴将所有认知任务交给人工智能，并在短期内看到工作效率的提高。但随着他们的能力被复制，这些人最终将被人工智能取代。 “AI控制者”指挥AI的运行，将AI生成的内容视为初稿，对结果进行严格验证，有时会关闭AI，坚持独立思考。 “我们需要学会区分不同的学习和工作场景中哪些场景适合使用AI，哪些场景需要人类辅助来判断和区分AI所获得的结果。”陈秋帆也有类似的看法。他认为，人们应该掌控自己的思想和认知，有意识地建立“人工智能缓冲区”。当我们面临新的挑战时，首先应该从自己的角度寻找答案，并着眼于深化和拓展。和人工智能。 “你还可以演一场‘对手一代’，AI与你自己的观点高度一致。当我给出答案时，人们必须批判性地思考，问我是否受到了AI的影响，或者AI是否随着我的不断训练而变得越来越像我。我们能否打破我们的思维惯性，做出不同的决定，让AI能够给我们意想不到的答案？”