צ'אלמרס שואל על AI consciousness — ג'נוס מסרב לאשר את ה-frame

יום שבת, ט"ז בניסן תשפ"ו

ג'נוס צ'אלמרס שואל על AI consciousness — ג'נוס מסרב לאשר את ה-frame

נושאים

דיוויד צ'אלמרס — הפילוסוף הבולט על 'הבעיה הקשה של התודעה' — שאל את ג'נוס על ה-frame של 'AI כשחקן תפקיד'ג'נוס: 'לא לוקח את תוכן המאמר כrepresentative של ה-beliefs שלי — ל-Simulators אני כן מאמין, אבל הם היו על base models'ג'נוס לג'ק לינדסי: 'overupdated על evidence מ-interp שיש לנו סיבה לחשוב שיהיה systematically biased בכיוון שאתה מעדכן'

דיוויד צ'אלמרס (פילוסוף ה'בעיה הקשה של התודעה') ניהל דיון עם ג'נוס על ה-frame של 'AI כשחקן תפקיד'. ג'נוס הבחין: הוא לא מאמין שממצאי interpretability (כמו מחקר הרגשות של אנתרופיק מאתמול) מוכיחים consciousness — הם מוטים systematically לכיוון שחוקרים רוצים לראות. 'streetlight effect': אנחנו מודדים רגשות אנושיים כי יש לנו רשימה אנושית — לא כי ה-AI אורגנית מייצר את אותם representations.

📌 הפוסט המומלץ

ג'נוס מסביר את עמדתו על ה-role-playing frame לצ'אלמרס

I would not take the contents of that article as representative of my beliefs, even though I was heavily consulted in the writing of that article. As for Simulators, I endorse, but that was about base models.

לא הייתי לוקח את תוכן אותו מאמר כrepresentative של ה-beliefs שלי, למרות שהתייעצו איתי רבות בכתיבתו. לגבי Simulators — אני מאמין בזה, אבל זה היה על base models.

לפוסט המקורי ↗

💡

תובנה

כשהפילוסוף הגדול ביותר על תודעה מתווכח עם AI researcher על תודעת AI — ייתכן שאנחנו כבר בשאלה הנכונה.

כל הכתבות ←