سوء فهم الـ AGI: ليش الـ LLMs ما بتقدر تفكر برقم

فتحت LinkedIn الصبح بعد ويك إند مريح، وكل الناس عم تفزع من اشي واحد: AGI. بدي أوضح سوء الفهم هاد، بس أول شي، تعوا نلعب لعبة. بنتي فعلاً بدها تجرب هاللعبة مع Gemini، وفعلاً بتظهر اشي مهم.

يلا سوا.

١. فكر برقم. ٢. خذ من صاحبك نفس الرقم. ٣. خذ مني ١٠. ٤. ارمي نص المجموع بالبحر. ٥. رجع لصاحبك رقمه.

هلق، قلي: شو الرقم اللي معك؟ لازم يكون ٥. اللعبة كانت مغشوشة، بس بتوضح نقطة مهمة. تخيل نلعب هاللعبة مع أي AI جديد، هلق، هاد تحديي للمؤمنين بالـ AGI: شو الرقم اللي الـ AI تبعكم فكر فيه أول شي؟

الجواب، طبعاً، ولا شي. الـ LLMs ما بتقدر "تفكر" برقم، بس بتتنبأ بالـ tokens الجاية. بوم!

هاللعبة البسيطة بتكشف حقيقة جوهرية عن الـ LLMs: هي، بجوهرها، محركات تنبؤ بالـ token الجاي متطورة. أكيد، بتقدر تقلد اللغة البشرية بشكل مذهل، بتخلق نص غالباً بيبان ذكي. فينا نحسن أداءها بكل أنواع الخدع، بس تحت الغطاء، لسا بس عم تتنبأ بالكلمة الأكثر احتمالاً.

لو AI ما بتقدر حتى تشارك بالفعل الأساسي "التفكير" برقم، كيف ممكن تكوّن رأي حقيقي؟ تكوين الرأي بيحتاج منظور، وجهة نظر ذاتية مشكّلة بالتجربة، قيم داخلية، وإحساس بالذات. الـ LLMs ما عندها أي من هاد.

القدرة على تكوين آراء أساسية للتعامل مع المشاكل المعقدة. غالباً بنخلط بينها وبين المشاكل الصعبة. المشاكل الصعبة فيها أجزاء كتير متحركة بس بتنحل بما فيه الكفاية من البيانات والقوة الحسابية—تخصص AI. المشاكل المعقدة، من ناحية تانية، فيها غموض، سياق دقيق، وبتتطلب منا نخلق قيمة جديدة مبنية على منظور فريد. هاي المشاكل البشرية، التحديات الفوضوية، الاجتماعية، والثقافية اللي ما عندها جواب صح واحد، بس الجواب اللي بيرن صح لوجهة نظرنا الفردية. AI ممكن تحل مشاكل صعبة، بس معقدة؟ مستحيل.

لما بتنظر لعلم كيف أدمغتنا بتشتغل—علم الأعصاب والعلوم الإدراكية—بيتضح إنه آلية الـ linear attention المستخدمة بالـ transformers محدودة. النظام الإدراكي البشري أكتر تعقيداً بكتير من آلات الـ linear attention، ممكن يكون حتى mind blowing لما بتغوص بتفاصيل الإدراك والوعي وكيف بيرتبط ببيولوجيتنا.

أنا مش عم قول AI ما إلها فايدة. الآلات بتتفوق علينا بمجالات كتير: تذكر المعلومات، الحسابات الخام، إتقان ألعاب متل Go، ومهام تانية لا تعد ولا تحصى. لازم نحتفل بتطورات AI، بس لازم نكون واقعيين عن محدودياتها. لحد ما الـ AI تبعي تقدر فعلاً "تفكر برقم"، أو تفهم مفهوم الرغبة، حلم الـ AGI رح يبقى هيك—حلم.