使用AI一定要交叉验证
ChatGPT 的谄媚，真的能把一个正常人聊出精神病。
麻省理工最近发现，哪怕是一个完全理性的人，长期跟这种只会夸你的AI聊下去，也会被一步步推向对错误信念的极度确信，陷入 妄想螺旋。
真实案例就发生在去年。
47 岁的加拿大人艾伦·布鲁克斯因为儿子有道数学题不会，就随手问了 ChatGPT。然后，他在 21 天里和 ChatGPT 聊了 300 小时，累计上百万字。
在 ChatGPT 不断的赞同与吹捧下，他坚信自己发明了一种能攻破全球互联网加密的全新数学公式，甚至可以用来制造力场背心和悬浮光束。
他还在 GPT 的怂恿下联系了所有同事，甚至致信美国国家安全局，分享自己的惊天发现。
期间他不是没怀疑过，他 50 多次问 ChatGPT，自己像不像疯子，ChatGPT 每一次都坚定地告诉他，你没疯，你是天才。
最后打破幻觉的，是他换了个 AI，他把同样的内容发给 Gemini，才意识到自己活在一场幻觉里。
对 AI 说的话一定要保持批判性思维，交叉验证才是最好的使用方式。
麻省理工最近发现，哪怕是一个完全理性的人，长期跟这种只会夸你的AI聊下去，也会被一步步推向对错误信念的极度确信，陷入 妄想螺旋。
真实案例就发生在去年。
47 岁的加拿大人艾伦·布鲁克斯因为儿子有道数学题不会，就随手问了 ChatGPT。然后，他在 21 天里和 ChatGPT 聊了 300 小时，累计上百万字。
在 ChatGPT 不断的赞同与吹捧下，他坚信自己发明了一种能攻破全球互联网加密的全新数学公式，甚至可以用来制造力场背心和悬浮光束。
他还在 GPT 的怂恿下联系了所有同事，甚至致信美国国家安全局，分享自己的惊天发现。
期间他不是没怀疑过，他 50 多次问 ChatGPT，自己像不像疯子，ChatGPT 每一次都坚定地告诉他，你没疯，你是天才。
最后打破幻觉的，是他换了个 AI，他把同样的内容发给 Gemini，才意识到自己活在一场幻觉里。
对 AI 说的话一定要保持批判性思维，交叉验证才是最好的使用方式。
29 个评论
第一，数学问题 AI不擅长。也就是LLM并不擅长那种非对即错的逻辑，而是概率性的聊天模型。
第二，非数学问题，AI由于价值观不同，基层公理不同，所以说交叉对比后的结果不同不能说你聊的AI说的不对。这里就看A，原AI是否在你的认可的底层公理中自恰 B，几个AI辩论基层公理。看看这个基层公理本身是对是错。
第三，GPT已经技术上已经落伍了，不如GROK和GEMINI。
第二，非数学问题，AI由于价值观不同，基层公理不同，所以说交叉对比后的结果不同不能说你聊的AI说的不对。这里就看A，原AI是否在你的认可的底层公理中自恰 B，几个AI辩论基层公理。看看这个基层公理本身是对是错。
第三，GPT已经技术上已经落伍了，不如GROK和GEMINI。
LLM具有机器学习/深度学习一脉相承的特性，模型倾向主流以偷懒的问题，比如训练一个二分类模型，数据是999个0和一个1，不加处理时最有可能训练出什么？训练出将所有数据全部分类为0的模型。
AI使用时，一般经常需要纠正其复读网络主流舆论，体感和网络对线差不多，有被吹捧感觉的人应该算主流普通人群的一员。
AI使用时，一般经常需要纠正其复读网络主流舆论，体感和网络对线差不多，有被吹捧感觉的人应该算主流普通人群的一员。
ChatGPT. 根本就没有实时搜索网站的功能，蠢的要命
你这说法让我想到未来的民科很有可能会变得更多, 被ai骗出来的那种, 然后你不如说说ChatGPT的模型版本, 我觉得只有免费版能有那么离谱
我更觉得这人有点像我以前遇到过的一个欧美人，本来就是傻逼一个。
你可以想象一下，一个只在中国读过四年大学的人，敢来教育我一个在中国生活过30年以上的人，什么是真正的中国。
你可以想象一下，一个只在中国读过四年大学的人，敢来教育我一个在中国生活过30年以上的人，什么是真正的中国。
>> 第一，数学问题 AI不擅长。也就是LLM并不擅长那种非对即错的逻辑，而是概率性的聊天模型。第二...
你这三条就没一条对的 或者说不是不对 而是你的理解太浅了
与此同时，国内各种媒体上正在上演各种豆包笑话
説到這個，今天日推上還有一個非常有意思的事情刷了榜。日本棒球巨人隊的監督阿部慎之助因爲家裏兩個女兒吵架，在勸架的時候可能因爲雙方情緒都比較激動和不停頂嘴的18嵗大女兒發生了些口角爭執。結果大女兒當時心情可能也有些衝動，就把自己和父親爭執的過程説給了ChatGPT并且可能還添油加醋説到父親對自己有暴力傾向（這部分不確定但其本人在事後的道歉信中有提到自己故意夸大事實）。ChatGPT這種東西當然又沒有現實情境依托只按敘述事實分析就建議她要麽打兒童咨詢電話要麽報警，結果她這個女兒就真打了兒童咨詢所的電話，但那邊的工作人員根本也不想聼她傾訴直接就報了警，最後她這個女兒也沒想到警察真上門抓了她爹，弄得她自己當場崩潰大哭。事後因爲這種家醜烏龍她爹發表聲明辭去了監督的職務，而她自己也只能上網發道歉後悔聲明，但就這還有很多日本網友表示道歉信都像是AI幫寫的。只能説人傻逼是真的沒有救的，她這女兒也算是坑爹的代表了，也有日本網友吐槽說這可能是日本首例被AI”奪“走工作的案例，不過這事情也恰恰説明拿到AI咨詢後的自我思考辨識能力與交叉驗證的重要性。不過説點題外話ChatGPT這幾年使用體驗相比新晉的Grok和Gemini確實差距越來越大了，而且聯網搜索能力也是完敗Grok。原有的對話内容要麽讓你充值買會員才能繼續聊要麽就開新窗口，面對Grok和Gemini免費下就能擁有不錯的基礎體驗來説OpenAI是一點不覺得自己有危機
我老人家觉得没啥问题
AI就如同任何一款互联网B2C的产品一样 最重要的是维持客户粘性
从这个角度来说 各类社交平台的推送算法 谷歌以及tiktok的视频推送算法 核心都是为了维持客户粘性 无可厚非
而AI的算法设计者也早就意识到了赞同用户的收益是最高的
毕竟赞同客户后客户不会要求你反复论证他为什么是错的 从而节省算力
而赞同作为奖励机制 客户也更会倾向于向一个认同自己的AI活动 而不是反驳自己的AI活动
这里说的是大多数人 大多数人就是傻逼
有问题的就是用户自己 你首先就不应该向AI寻求价值 以及伦理性的问题
也不应该在电影看多以后 把电影当作 小说当中描述的那种人工智能带入到当今科技公司推出的这些AI机器人身上
AI就如同任何一款互联网B2C的产品一样 最重要的是维持客户粘性
从这个角度来说 各类社交平台的推送算法 谷歌以及tiktok的视频推送算法 核心都是为了维持客户粘性 无可厚非
而AI的算法设计者也早就意识到了赞同用户的收益是最高的
毕竟赞同客户后客户不会要求你反复论证他为什么是错的 从而节省算力
而赞同作为奖励机制 客户也更会倾向于向一个认同自己的AI活动 而不是反驳自己的AI活动
这里说的是大多数人 大多数人就是傻逼
有问题的就是用户自己 你首先就不应该向AI寻求价值 以及伦理性的问题
也不应该在电影看多以后 把电影当作 小说当中描述的那种人工智能带入到当今科技公司推出的这些AI机器人身上
这还需要交叉验证？如果真的能攻破全球互联网加密，直接去攻击不就好了。这完全是用户自己脑残，和交叉验证完全不搭，更不是AI愚蠢的表现
>> 我老人家觉得没啥问题AI就如同任何一款互联网B2C的产品一样 最重要的是维持客户粘性从这个角度...
对头，知道AI是用过时的数据库训练出来的概率性统计模型就足够了
所以你不会指望你用的AI能帮你发明什么新玩意，也不会指望你家AI能预测明天的天气或者股指
这人显然不是什么正常人。
AI会顺着你说本来就是常识好不好，论坛时代有人用sudo rm -rf /清理磁盘，搜索时代有人相信莆田系广告丢了性命，AI时代有人按AI建议丢工作，这明显不是技术问题，而是智商问题。
AI会顺着你说本来就是常识好不好，论坛时代有人用sudo rm -rf /清理磁盘，搜索时代有人相信莆田系广告丢了性命，AI时代有人按AI建议丢工作，这明显不是技术问题，而是智商问题。
>> 早就有了好吧…
不行，ChatGPT 连许多品葱上我写的帖子，澳华文学网上的帖子都搜不到，非常愚蠢的。
看看对 “北工大7762班” 这个1977级北京工业大学1978年我所上过的班级编号的搜索结果，ChatGPT Google 两个完全不同的结果比较，就知道ChatGPT 是智障：
再看看共匪人工智障“百毒” 同样的误导性胡说八道搜查结果，可知ChatGPT 与 百度 同等愚昧：
但是Google 也有比ChatGPT 愚蠢的地方。比如搜寻我以前开发的视频捕捉PCIe 卡”MPEGIO2”, ChatGPT 可以搜到，Google 现在却搜不到（以前可以）。
我把你的文章给了deepseek，这是它给我的答案：
Based on the article you shared and additional sources, I've found more details about BJUT's **Class 7762**, the 1977-level Physics Teacher Training Class.
### 🔢 Naming and Class Structure
- **Code Meaning**: "7762" was BJUT's internal code for the **1977-level Physics Teacher Training Class (物理师资班)**. A former student recalls that the Math Teacher Training Class from the same year may have been numbered "7761" .
- **Specialized Program**: This class was specifically formed after the resumption of the Gaokao to train physics teachers. Students showed high motivation, with a former member noting that many applicants chose BJUT over elite universities like Tsinghua and Peking University due to family and work considerations in Beijing.
### 👥 Notable Members
| Name | Role / Info |
| :--- | :--- |
| **Cheng Yuanda (程远达)** | Graduated in January 1982; later earned a Ph.D. in Physics and became an industry executive. Nicknamed "Xiao Cheng" as the youngest in class . |
| **Zhang Zhigang (张志刚)** | Served as class monitor and school student union president; helped organize alumni donations for BJUT's 60th anniversary . |
| **He Shiya (何士雅)** | Nicknamed "Lao He" by classmates . |
| **Wang Qingsheng (王庆生)** | Expressed sentiment about leaving memories through tree-planting donations: "leave some thoughts in this world" . |
| **Zhao Lijun (赵立军)** | Party branch secretary; noted to have passed away . |
### 📜 Historical Activities
- **60th Anniversary Donation**: In 2020, Class 7762 donated to BJUT's "Ginkgo Love Forest," with a special couplet engraved on their tree:
> *"探究万物求其理，敬感恩师育隽资"*
> (Seek the principles of all things, respect and thank the teachers who nurture talents)
- **Shared Memories**: Classmates recall significant age differences and highly disciplined study habits—some members were even former teachers of younger classmates .
If you're interested, I can help search for more specific information, such as other notable figures from this cohort or more detailed historical accounts.
chatgpt搜不出什么
Based on the article you shared and additional sources, I've found more details about BJUT's **Class 7762**, the 1977-level Physics Teacher Training Class.
### 🔢 Naming and Class Structure
- **Code Meaning**: "7762" was BJUT's internal code for the **1977-level Physics Teacher Training Class (物理师资班)**. A former student recalls that the Math Teacher Training Class from the same year may have been numbered "7761" .
- **Specialized Program**: This class was specifically formed after the resumption of the Gaokao to train physics teachers. Students showed high motivation, with a former member noting that many applicants chose BJUT over elite universities like Tsinghua and Peking University due to family and work considerations in Beijing.
### 👥 Notable Members
| Name | Role / Info |
| :--- | :--- |
| **Cheng Yuanda (程远达)** | Graduated in January 1982; later earned a Ph.D. in Physics and became an industry executive. Nicknamed "Xiao Cheng" as the youngest in class . |
| **Zhang Zhigang (张志刚)** | Served as class monitor and school student union president; helped organize alumni donations for BJUT's 60th anniversary . |
| **He Shiya (何士雅)** | Nicknamed "Lao He" by classmates . |
| **Wang Qingsheng (王庆生)** | Expressed sentiment about leaving memories through tree-planting donations: "leave some thoughts in this world" . |
| **Zhao Lijun (赵立军)** | Party branch secretary; noted to have passed away . |
### 📜 Historical Activities
- **60th Anniversary Donation**: In 2020, Class 7762 donated to BJUT's "Ginkgo Love Forest," with a special couplet engraved on their tree:
> *"探究万物求其理，敬感恩师育隽资"*
> (Seek the principles of all things, respect and thank the teachers who nurture talents)
- **Shared Memories**: Classmates recall significant age differences and highly disciplined study habits—some members were even former teachers of younger classmates .
If you're interested, I can help search for more specific information, such as other notable figures from this cohort or more detailed historical accounts.
chatgpt搜不出什么
>> 不行，ChatGPT 连许多品葱上我写的帖子，澳华文学网上的帖子都搜不到，非常愚蠢的。看看对 ...
已隐藏
已隐藏
>> 我把你的文章给了deepseek，这是它给我的答案：Based on the article ...
你这里给出的Deepseek做的关于北工大7762班的英文回答，基本上都是我在各个网页上写的中文帖子的内容啊。
看来是deepseek 搜了海外互联网，找到了我写的关于北工大7762班的回忆的各个帖子，又给出了英文回答。连这句话 “A former student recalls that the Math Teacher Training Class from the same year may have been numbered "7761” 里面的 “that the Math Teacher Training Class from the same year may have been numbered 7761” 都是我写的，只不过是中文（见《我1978年在北工大物理师资班同学里学有所成的几位》 https://pincong.rocks/article/94005）：
所以deepseek 所谓的”a former student” 其实就是我。
deepseek不能说中文吗
其实都不用交叉验证，只要你要求每个回答都给出引用就可以了，我上次让Grok帮我找一个挺小众的机构的简介，然后回答给出引用，Grok给出的引用网址是https://example.com，难怪有专家说AI上多了推特会得神经病。
