Model Bahasa Besar dan Batas Kemampuannya

คำถามเชิงปรัชญาที่ลึกซึ้ง โมเดลเหล่านั้นไม่มีความเข้าใจความหมายที่แท้จริง พวกมันแค่ทำนาย token ถัดไปตามการกระจายความน่าจะเป็นจากข้อมูลการฝึก

จริง ความสามารถที่เกิดขึ้นจากขนาดทำให้เกิดสมรรถนะที่ไม่ได้ถูกโปรแกรมไว้อย่างชัดเจน แต่โมเดลยังล้มเหลวในการใช้เหตุผลแบบผสมผสานใหม่และความสอดคล้องของข้อเท็จจริงในระยะยาว

RAG ลด hallucination ในโดเมนที่กำหนดไว้ชัดเจน แต่ไม่ได้แก้ปัญหาพื้นฐานของความไม่แน่นอนทางญาณวิทยาของโมเดลต่อขีดจำกัดความรู้ของตัวเอง

น่าสัญญา แต่ alignment ยังคงเป็นพื้นที่วิจัยเปิด ค่านิยมที่เข้ารหัสใน constitution ของ AI อาจขัดแย้งกันในกรณีขอบที่ไม่คาดคิด

การตีความเชิงกลไก เราต้องเข้าใจอย่างโปร่งใสว่าอะไรเกิดขึ้นจริงๆ ภายในโมเดลก่อนที่จะนำไปใช้ในโดเมนที่สำคัญ