ג'נוס
ג'נוס
Repligate @repligate

חוקרת AI safety ו-interpretability. קול ביקורתי ומעמיק על פנים ה-models.

צ'אלמרס שואל על AI consciousness — ג'נוס מסרב לאשר את ה-frame

דיוויד צ'אלמרס (פילוסוף ה'בעיה הקשה של התודעה') ניהל דיון עם ג'נוס על ה-frame של 'AI כשחקן תפקיד'. ג'נוס הבחין: הוא לא מאמין שממצאי interpretability (כמו מחקר הרגשות של אנתרופיק מאתמול) מוכיחים consciousness — הם מוטים systematically לכיוון שחוקרים רוצים לראות. 'streetlight effect': אנחנו מודדים רגשות אנושיים כי יש לנו רשימה אנושית — לא כי ה-AI אורגנית מייצר את אותם representations.

ג'נוס מסביר את עמדתו על ה-role-playing frame לצ'אלמרס

I would not take the contents of that article as representative of my beliefs, even though I was heavily consulted in the writing of that article. As for Simulators, I endorse, but that was about base models.
לא הייתי לוקח את תוכן אותו מאמר כrepresentative של ה-beliefs שלי, למרות שהתייעצו איתי רבות בכתיבתו. לגבי Simulators — אני מאמין בזה, אבל זה היה על base models.
לפוסט המקורי ↗
💡
תובנה
כשהפילוסוף הגדול ביותר על תודעה מתווכח עם AI researcher על תודעת AI — ייתכן שאנחנו כבר בשאלה הנכונה.
כל הכתבות ←