自 2022 年 ChatGPT 首次亮相以来，生成性人工智能迅速进入我们的工作、学习和个人生活，帮助以前所未有的速度加快研究、内容创作等。
人们对生成式人工智能工具的热情自然而然地高涨，其普及速度甚至超过了互联网或个人电脑，但专家警告称，我们应谨慎行事。与所有新技术一样，生成式人工智能可以以多种方式推动社会进步，但如果不加以控制，也可能带来不良后果。
其中一位声音来自荷兰合作银行金融犯罪人工智能主管娜塔莎·戈文德 - 罗珀特 (Natasha Govender-Ropert)。她与 TNW 创始人鲍里斯·维尔德胡伊森·范·赞滕 (Boris Veldhuijzen van Zanten) 一起，在《起亚的下一个大行动》(Kia’s Next Big Drive) 最新一期节目中，探讨了人工智能的伦理、偏见以及我们是否正在将我们的大脑外包给机器。
查看完整采访 – 在前往 TNW2025 的途中驾驶 起亚全电动 EV9录制：
我们应该思考的一个问题是，当我们越来越多地依靠生成式人工智能来寻找答案时，这种依赖会对我们自身的智力产生什么影响？
麻省理工学院 最近开展了一项关于使用 ChatGPT 撰写论文的研究，该研究引发了一系列耸人听闻的标题，从“研究人员称使用 ChatGPT 会腐蚀你的大脑”到“ChatGPT 可能会让你变得懒惰和愚蠢”。事实 真的 如此吗？
你的大脑与人工智能
实际 情况是这样的：研究人员给波士顿地区的 54 名学生布置了一项写作任务。一组学生使用 ChatGPT，另一组学生使用谷歌（没有使用人工智能），第三组学生必须完全用大脑写作。写作时，研究人员会用电极测量他们的大脑活动。
经过三次训练后，只使用大脑的那组表现出了最高水平的思维连通性。ChatGPT 用户呢？最低。感觉像是 AI 辅助组的人就像在自动驾驶一样，而其他人则需要更加努力地思考才能把文字写到纸上。
第四轮，角色互换。这次，纯大脑组可以使用 ChatGPT，而人工智能组则必须单独行动。结果如何？前者提高了论文写作水平，而后者则难以记住自己最初写的内容。
总体而言，研究发现，在为期四个月的研究中，仅使用大脑的参与者在神经、语言和行为水平方面的表现优于其他组，而使用 ChatGPT 的参与者在论文上花费的时间更少，只是简单地进行复制 / 粘贴。
审阅他们作品的英语老师们表示，这些作品缺乏原创思想和“灵魂”。听起来很吓人，对吧？或许吧，但事实远比这些耸人听闻的标题所暗示的要复杂得多。
研究结果与其说是大脑衰退，不如说是思维捷径。研究结果表明，过度依赖法学硕士（LLM）会降低脑力投入。但如果积极、周到地利用，这些风险或许可以避免。研究人员还强调，虽然这项研究提出了一些值得进一步研究的有趣问题，但其规模太小、内容太过简单，难以得出明确的结论。
批判性思维的消亡？
虽然这些发现（还有待同行评审）肯定需要进一步研究和更深入的思考，以了解我们应该如何在教育、专业和个人环境中使用这一工具，但也许真正腐蚀我们大脑的是那些为点击量而非准确性而设计的 TLDR 标题。
研究人员似乎也有同样的担忧。他们创建了一个 包含常见问题解答页面的网站，敦促记者不要使用不准确、夸大研究结果的语言。
讽刺的是，他们把由此产生的“噪音”归咎于记者利用法学硕士（LLM）来总结论文，并补充道：“如果您阅读了论文或其中的部分内容，我们非常欢迎您提供反馈。另外，需要提醒的是，这项研究有一些局限性，我们在论文和网页上都列得很清楚。”
从这项研究中我们可以得出两个结论：
- 有必要对法学硕士应如何在教育环境中应用进行更多研究
- 学生、记者和广大公众需要对我们收到的信息保持批判性，无论是来自媒体还是生成人工智能
阿姆斯特丹自由大学的研究人员 担心，随着我们对法学硕士学位的依赖日益增加，真正面临风险的可能是批判性思维，或者说是我们质疑和改变社会规范的能力和意愿。
学生可能不太愿意自己进行广泛或全面的搜索，因为他们更倾向于接受 GenAI 输出的权威性和权威性。他们可能不太愿意质疑——甚至不去识别——输出背后未明说的观点，无法思考究竟是谁的观点被掩盖了，以及这些论断背后那些理所当然的假设。
这些风险指向了人工智能更深层次的问题。当我们仅仅从表面上看待其输出时，我们可能会忽视其中根深蒂固的偏见和未经证实的假设。解决这个问题不仅需要技术上的改进，更需要批判性地反思我们最初对偏见的定义。
这些问题正是荷兰合作银行金融犯罪人工智能主管 Natasha Govender-Ropert 工作的核心。她的职责是通过消除偏见，构建负责任、值得信赖的人工智能。但正如她在《起亚的下一个重大举措》中向 TNW 创始人 Boris Veldhuijzen van Zanten 指出的那样，偏见是一个主观术语，需要根据每个人和每家公司进行定义。
“偏见并没有一个统一的定义。我认为的偏见或无偏见，对其他人来说可能有所不同。这是我们作为人类和个体需要决定的事情。我们需要做出选择，并确定这是我们在审视数据时将要执行的原则标准，”戈文德 - 罗珀特说道。
社会规范和偏见并非一成不变，而是不断变化。随着社会的发展，我们用来训练法学硕士的历史数据却不会改变。我们需要保持批判性，质疑我们所获得的信息，无论是来自人类同胞还是机器，以构建一个更加公正公平的社会。
