Language models and the cognitive trap of labeling

•語言對認知的影響可追溯至薩丕爾-沃爾夫假說（Sapir-Whorf Hypothesis），該假說提出語言結構會決定或影響一個人的思維和世界觀，分為強式（語言決定論）和弱式（語言相對論）版本，為文章中「認知囚籠」的概念提供了深厚的理論基礎。
•大型語言模型（LLMs）面臨「符號接地問題」（Symbol Grounding Problem），即抽象符號（如文字）如何與現實世界的感官經驗和物理實體建立真實意義連結的挑戰，這與文章中AI過度依賴符號處理而削弱與真實世界連結的擔憂高度相關。
•「具身認知」（Embodied Cognition）理論強調認知過程與身體經驗及環境互動密不可分，這與文章中右腦的整體感官感知形成對比，並促使AI領域發展出多模態大型語言模型（MLLMs）和世界模型（World Models），以期讓AI能透過多感官輸入和物理互動來獲得更深層的理解。

大型語言模型（LLMs）本質上是聯結主義（Connectionist AI）系統，主要透過文本數據學習語言模式，缺乏與物理世界的直接互動，導致其內部符號表示難以與真實世界的感官經驗建立有機連結，即「符號接地」不足。
為解決符號接地問題，研究正朝向「具身AI」（Embodied AI）發展，旨在讓AI系統擁有物理身體，並透過多模態感知（如視覺、聽覺、觸覺）與環境進行即時互動，建立「感知-思考-行動」的完整閉環。
多模態大型語言模型（MLLMs）是具身AI的關鍵組成部分，它們能夠整合來自不同感官模態的資訊，例如結合視覺和語言，以提升AI對語義的理解和對物理世界的感知能力。
世界模型（World Models）與強化學習（Reinforcement Learning）等技術被用於彌合AI在感知與行動之間的鴻溝，使AI系統不僅能識別模式，還能預測物理動態並進行因果推理，從而在複雜環境中做出可靠決策。
混合式AI方法結合了符號AI（基於規則、邏輯推理、可解釋性強）和聯結主義AI（從數據學習、模式識別、適應性強）的優勢，以期創建既強大又可解釋的智能系統，這有助於解決單一範式在處理複雜認知任務時的局限性。

AI系統將更積極地整合多模態感知與具身互動能力。

為克服語言模型在符號接地上的限制，未來的AI發展將著重於讓模型透過多感官輸入和物理世界互動來建立更深層的理解。

隨著AI對語言和認知的影響加深，對AI倫理和哲學的探討將成為主流。

語言模型可能加劇人類認知偏差，並引發關於AI意識、意義理解及人機關係的深層哲學問題，促使社會更關注AI的倫理影響。

混合式AI架構將成為主流，結合符號與聯結主義方法的優勢。

為了兼顧大型語言模型的學習能力與傳統符號AI的邏輯推理和可解釋性，結合兩者優點的混合系統將是未來發展方向。

約公元前3世紀

中國名家公孫龍提出「白馬非馬」等語言邏輯論證，探討名實關係，被視為中國語言哲學的先驅。

20世紀初

西方哲學經歷「語言學轉向」，弗雷格、羅素、維根斯坦等哲學家將語言置於哲學研究的核心；同時，薩丕爾-沃爾夫假說提出語言影響思維的觀點。

1950年代-1980年代

符號主義AI（Symbolic AI）興起，強調透過符號和規則來模擬人類智能，但在處理模糊和變異數據時遇到挑戰。

1980年代

約翰·塞爾（John Searle）提出「中文房間」論證，斯蒂文·哈納德（Stevan Harnad）正式提出「符號接地問題」，質疑AI系統是否能真正理解符號意義。

20世紀末-21世紀初

聯結主義AI（Connectionist AI），特別是人工神經網絡和深度學習，取得顯著進展，並重新引起對具身認知理論的關注。

2020年代

大型語言模型（LLMs）和多模態大型語言模型（MLLMs）的崛起，再次將符號接地問題和具身AI推向研究前沿，探索AI與物理世界的互動和理解。

語言模型與標籤化帶來的認知陷阱