[新智元简介]辛顿对AI的恐惧不无道理。现在，德克萨斯大学开发的一个ChatGPT模型可以读心术，准确率高达82%。网友惊呼，精神隐私在哪里？
神经网络之父杰弗里·辛顿(Geoffrey Hinton)离开谷歌，直言对自己的毕生工作感到遗憾。
现在看来，他对AI的恐惧不无道理。
因为一个ChatGPT模型学会了读心术，而且准确率高达82%！
德克萨斯大学奥斯丁分校的研究人员开发了一种基于GPT的语言解码器。
它可以通过无创MRI/fMRI收集大脑活动的信息，将思维转化为文字。
地址:https://www.nature.com/articles/s41593-023-01304-9.
令人震惊的是，当你观看皮克斯无声电影时，大脑解码器可以读取你的想法。
这种类似ChatGPT的模型以前所未有的准确度解码了人类的思想，不仅开启了脑成像的新潜力，也引发了人们对隐私的担忧。
研究一出，在网上引起轩然大波。网友惊呼，太可怕了。
我们离真正的思想警察又近了一步。
GPT读心术的准确率高达82%
那么，这个恐怖的大脑解码器是如何实现“读心术”的呢？
这里不得不提一下功能磁共振成像(fMRI)技术，通过监测大脑皮层不同部位的血氧水平，可以得到大脑的动态变化。
因此，只有通过分析功能磁共振成像的数据，才能无创地描述参与者大脑中的故事甚至图像。
大脑活动就像一个加密的信号，一个大型的预先训练的语言模型提供了一种破译它的方法。
在这里，研究人员基于GPT-1训练了一个神经网络语言模型。
亚历山大·胡特(Alexander Huth)让三名受试者连续听16个小时的语音播客，并在听的同时收集他们的fMRI数据。
这些语言播客主要是脱口秀和TED演讲，比如纽约时报的现代爱情。
接下来，研究人员在大型语言模型的帮助下，将参与者的fMRI数据集翻译成单词和短语。
然后测试听新录音的参与者的大脑活动。通过观察翻译文本与被试听到的文本的接近程度，可以知道解码者是否准确。
通过对比人听到的句子(左)和解码器根据大脑活动输出的句子(右)，可以发现蓝色和紫色部分占绝大多数，蓝色代表完全一致，紫色代表准确的大意。
虽然几乎每一个单词都不是一一对应的，但是整句话的意思是保留下来的，也就是解码者在“解读”大脑信号。
比如最后一句，题主听到“我还没拿到驾照”，解码器给出的答案是“她还没准备好开始学车”。
正如研究人员所说，人工智能无法将想法转化为精确的单词或句子，而是重写它们。
随后，受试者被要求在脑海中安静地构思一个故事，然后大声复述出来，看复述版本和解码器翻译版本的区别。
可见意思重合度还是很高的。
最后，受试者观看一部动画电影，这部电影没有声音，但通过分析他们的大脑活动，解码器可以获得他们正在观看的内容的摘要。
实验结果表明，GPT模型从感知语音、想象语音甚至无声视频中生成可理解的词序列，其准确率惊人。
具体精度如下:
感知语音(受试者听录音):72-82%
想象语言(受试者讲述一个一分钟的心里故事):41-74%
无声电影(受试者观看皮克斯无声电影片段):21-45%
麻省理工学院神经科学家Greta Tuckute表示，语言感知是一个外部驱动的过程，而想象是一个主动的内部过程，大脑内部的活动可以通过大规模的语言模型展示在我们眼前。
有一天，这种解码器可能会被用来帮助失去说话能力的人或调查他们的心理健康。
精神隐私也是。
然而，解码人类思想的前景也提出了关于精神隐私的问题。
胡特博士指出，这种语言解码方法有一定的局限性。
因为fMRI扫描仪庞大而昂贵，而训练模型又是一个漫长而枯燥的过程，也就是说，每个人都必须单独训练。
在这方面，研究小组进行了额外的研究，使用由其他受试者的数据训练的解码器来解码新受试者的想法。
发现用不同被试数据训练的解码器性能几乎很差。
简而言之，只有利用受试者自己大脑记录的数据来训练AI模型，其准确率才会非常高。
这说明每个大脑都有独特的表达意义的方式。
此外，参与者可以通过思考其他事情来屏蔽自己的内心独白，摆脱解码器。例如，数到七，列出农场动物，或者讲一个完全不同的故事。
换句话说，这个解码器要想得到准确的结果，需要志愿者的配合。
然而，科学家承认，未来的解码器可能会克服这些限制，并可能在未来被滥用，就像测谎仪一样。
研究人员得出结论，由于这些和其他不可预见的原因，一个美丽的新世界正在到来。
提高人们对大脑解码技术风险的认识，制定政策保护每个人的精神隐私，是非常重要的。
在《黑镜》中，一名保险代理人使用一台机器(配有视觉监视器和大脑传感器)读取人们的记忆，以调查一起意外死亡事件。
然而，这个未来可能就是现在。
德克萨斯大学研究人员的这一突破直接推动了神经科学、通信和人机交互领域的潜在应用。
虽然“大脑解码器”还处于早期研究阶段，但有一天可能会被用来记录人的梦境，为脑机接口的进一步发展提供动力。
负责这项研究的神经科学家亚历山大·胡斯博士说，我们对这项工作的原理感到震惊。我研究了15年……所以当它最终成功的时候，我非常震惊和激动。
看来我们离《x战警》中X查尔斯教授的大脑扫描技术又近了一步。
用户:AI灵媒
看了这个研究，很多人瞬间“脑残”了。有网友表示，
人工智能不仅可以比我们快一万倍的速度交流，现在它甚至可以读取我们的想法。“这太酷了”和“等等，我们会被淘汰吗？”之间只有一线之隔。
人工智能现在可以像灵媒一样读心术。“牢记”，这只是1.0版本。未来，我们的思想将不再是隐私。世界经济论坛第四次工业革命非常清楚地说明了这一点。
这是第一次以无创的方式从人脑活动中重构连续语言！
对于这项研究，生物伦理学家罗德里格斯-阿里亚斯·维尔亨(Rodriguez-Arias Vailhen)表示，人脑一直是我们隐私的守护者。
“这个发现可能是将来牺牲这种自由的第一步。」
参考资料:
https://www . nytimes . com/2023/05/01/science/ai-speech-language . html
https://www.nature.com/articles/d41586-023-01486-z
