سوء فهم الـ AGI: شو بتختبر لعبة «فكّر برقم»؟

فتحت LinkedIn بعد ويك إند مريح، ولقيت الناس عم تعلن وصول الـ AGI. كمان مرة. الظاهر الذكاء بصير عاماً كل ما أبعد عن التلفون يومين.

بنتي بدها تجرّب لعبة أرقام مع Gemini. خلينا نلعبها أول:

1. فكّر برقم.
2. خذ من صاحبك قدّه.
3. خذ مني عشرة.
4. ارمي نص المجموع بالبحر.
5. رجّع لصاحبك المبلغ اللي أخذته منه.

ضل معك خمسة. بعرف. قدرات خارقة. الرجاء تحويل ميزانية الأبحاث إلى مطبخي.

بس شو الرقم اللي بلّشت فيه؟

اللعبة ما بتقدر تخبرنا. سمّيه $x$:

الرقم الأصلي اختفى من المعادلة. إنسان اختار 73، وبرنامج خزّن 12، ونظام عرف الخدعة من الجبر، كلهم بقدروا يعطوك نفس الجواب. إنه يطلع معك خمسة ما بثبت ولا بنفي إنك اخترت رقماً أصلاً.

وهون بيصير الخلط: بنشوف عرضاً مقنعاً، وبنفترض إنه اختبر القدرة اللي عم نتناقش فيها. اللي بيعلن وصول الـ AGI، واللي بيرد عليه بخدعة ليثبت العكس، ممكن يوقعوا بنفس الغلطة.

شو يعني «فكّر برقم»؟

الجملة مخبّية ثلاثة طلبات مختلفة على الأقل.

اختار قيمة. البرنامج بقدر يختار رقماً، والنموذج اللغوي بقدر يولّد واحداً، والنظام بقدر يستعين بمولّد أرقام عشوائية. وصف الآلية بأنها «توقّع للرمز التالي» ما بينفي إنها أنتجت اختياراً.

احتفظ بالاختيار والتزم فيه. هاد سؤال عن الذاكرة واتساق السلوك عبر خطوات متعددة، وبنقدر نختبره: نخلي النظام يسجل رقمه بمكان يرجع له المقيّم، وبعدين نسأله أسئلة أجوبتها بتعتمد على هالرقم. لعبة الجبر اللي فوق ما بتنفع لهالغرض، لأنها بتلغي بالضبط المعلومة اللي بدنا نفحصها.

اختبر شعور الاختيار نفسه. هون دخلنا بسؤال التجربة الذاتية. لا الجواب السلس ولا الحساب الصحيح بيحسم إذا في شعور داخلي وراءه. لما النموذج يقول «حسّيت إني بدي أختار سبعة»، لازم ننتبه لشو بتثبت هالجملة، وشو ما بتقدر تثبته عن وجود تجربة داخلية.

اللي بهمّني نفصل هالأسئلة. وإلا بننتقل من «النظام أنجز المهمة» إلى «النظام إله منظور خاص» من غير ما نلاحظ إننا غيّرنا الادعاء بنص الطريق.

الرأي أكثر من فقرة مقنعة

النموذج بقدر يبني حجة، ويقارن بدائل، ويساعدني آخد قرار. هاي قدرات مفيدة. بس لما يكتب «أنا بعتقد»، بدي أعرف شو ورا الجملة: أي معايير عم يطبّق؟ شو بصير لو واجه دليلاً معاكساً؟ وهل بضل ملتزماً بنفس المعايير لو غيّرت صياغة السؤال؟

السؤال بصير أهم لما نختلف على الهدف نفسه: أي زبائن أولى بالخدمة؟ وأي تنازل مقبول؟ ومين إله حق يحدد معنى النجاح؟ زيادة القدرة الحسابية بتساعدنا نفهم النتائج المحتملة، لكن الاختيار بين القيم اللي رح تحكم القرار بيظل قائماً.

هاد اعتراضي على إعلانات الـ AGI السهلة: بنجمع القدرة والاستقلالية والحكم والوعي تحت كلمة واحدة، وبنحكي كأننا اختبرناها كلها بنفس التجربة.

أكيد بحب أشوف آلة بتعمل إشي مدهش. بس بدي أعرف شو أثبتت التجربة تحديداً. إذا الادعاء عن الذاكرة، نختبر الذاكرة. وإذا عن الاستدلال، نختار مسألة بيكون للاستدلال دور فعلي بحلها. أما سؤال التجربة الداخلية، فما بنحسمه بنهاية خدعة حسابية.

الرقم اللي ضل معنا خمسة. الأسئلة المهمة بعدها واقفة عالشط.