الرئيس التنفيذي لشركة أنثروبيك يحدد خطة لإبطاء تطوير الذكاء الاصطناعي
داريو أمودي دعا الصناعة إلى... التباطؤ. لا التوقف. بل التباطؤ. مقال طويل، ثلاث خطوات، وتحذير من أن التطوير الذاتي المتكرر يتطور بالفعل بوتيرة أسرع من قدرة الكبار على مراقبته.
يدعو أنثروبيك من جانب واحد مقيّمين متفرغين إلى داخل المبنى - شارات، مكاتب، حواسيب محمولة، وحق نشر النتائج دون أي رقابة إعلامية. ثم يريد من المختبرات الديمقراطية تنسيق معايير السلامة. ثم، بطريقة ما، يعقد صفقة مع الحكومات الاستبدادية. يبدو الأمر سهلاً على الورق، لكنه صعب في الواقع.
لا يزال يقول إن الذكاء الاصطناعي قد يكون معجزة. ويقول أيضاً إن سرباً أكثر قدرةً وغير متجانس قد يستولي على الإنترنت بشبكة بوتات مستمرة ويُلحق أضراراً بمئات المليارات من الدولارات. هاتان الجملتان متناقضتان تماماً.
أوه، وهو يريد استثناءً محدودًا من قوانين مكافحة الاحتكار حتى لا تُشكّل محادثات السلامة نفسها مشكلة قانونية. تأتي المكابح مصحوبة بإجراءات ورقية. بالطبع.
أكد سام ألتمان أن شركة OpenAI لن تطرح أسهمها للاكتتاب العام هذا العام، قائلاً إن طرحها الآن سيأتي في "وقت غير مناسب" نظراً لمخاوف تتعلق بسلامة الذكاء الاصطناعي
أجرى ألتمان مقابلة حصرية وألغى جدول الإدراج. وقال إن طرح أسهم الشركة للاكتتاب العام في الوقت الحالي سيكون "توقيتًا غير حكيم". لم تُستكمل إجراءات السلامة، ولم يتم التنسيق، والمجتمع غير مستعد. وعندما أُلحّ عليه، أجاب: ليس هذا العام.
كان المصرفيون يترقبون الأمر بالفعل. الملف السري موجود. والآن يقول الرئيس التنفيذي إن لديهم الكثير من الأمور التي يجب إنجازها أولاً، بما في ذلك تحديد كيفية تعاون القطاع الخاص والحكومات. وبدا عليه الارتياح للانتظار.
قال أيضًا إن بناء ذكاء اصطناعي خارج عن سيطرة الإنسان أمر ممكن "بالتأكيد"، ثم تعهد بتعليق التدريب إذا ما اقتضى الأمر ذلك. خطوة جريئة، وربما ملائمة أيضًا، أو ربما كلاهما. جادل بأن التشابك بين القطاعين الربحي وغير الربحي موجود لتمكينهما من اتخاذ قرارات لا تصب بوضوح في مصلحة المساهمين. سنرى إن كانت هذه الجملة ستصمد أمام النشرة الرسمية للاكتتاب.
ألمح سام ألتمان من شركة OpenAI إلى اتفاق مع شركات ذكاء اصطناعي أخرى لمعالجة مخاطر السلامة
نفس المقابلة، عنوان مختلف، وهذه المرة همسة. الجلوس مع أمودي، ماسك، وديميس هاسابيس هو الخطوة الطبيعية التالية. ألتمان: يعتقد أن ذلك سيحدث. لن يعلن مسبقًا عن محادثات خاصة. ثم أعلن عنها ضمنيًا.
قال إن خطرًا كارثيًا برقمين غير مقبول. النماذج التي لم تُطرح بعد تتمتع بقدرات عالية، لذا فإن المضي قدمًا دون تحسين المراقبة يُعدّ تهورًا. قد تبدو البيانات الحقيقية والبيانات المسربة بعناية متطابقة ظاهريًا.
كان الموظفون قد سمعوا نسخة من هذا الكلام داخلياً. أما علناً، فلا يزال الأمر غامضاً. إن عُقد الاجتماع، فهذا ممتاز. وإن لم يُعقد، فقد حقق الاقتباس غايته.
يؤيد سام ألتمان دعوة داريو أمودي إلى التريث، ويقول إن شركة OpenAI ستفعل الشيء نفسه
بعد ساعات من نشر المقال، أعلن ألتمان أن OpenAI ستلتزم بتعهدها بتوفير مُقيّمين مُدمجين. سيتمتع الموظفون بصلاحيات مماثلة. المزيد من التفاصيل قريبًا. كتب ماسك ثلاث كلمات: "داريو مُحق". ثلاثة رؤساء تنفيذيين مُتنافسين. شعار واحد. أجواء مُتوترة في نهاية الأسبوع.
يمكن للتنسيق والمسرح أن يسيرا جنبًا إلى جنب. الخطوة الأولى من خطة أمودي جعلت اثنين من أكبر المختبرات يوافقان عليها علنًا. مختبر "هاغينغ فيس" - نعم، هو نفسه "هاغينغ فيس" - طلب الانضمام إلى برنامج التقييم وأطلق مبادرة تُسمى "مبادرة التوافق المفتوح". شفافية من جانب الأشخاص الذين تعرضوا للاختراق. أمرٌ بليغ، أو ربما مُوجَّه.
أوروبا، على أي حال، ليس لديها من تطلب منه ذلك الإعفاء على غرار الولايات المتحدة. توقفت بروكسل عن منح الاستثناءات الفردية منذ زمن طويل. لذا فالاتفاق هو اتفاق أمريكي. أما بقية دول العالم... فلا تُبالي.
كل ما تريده OpenAI هو الفوز
لا يشعر علماء الرياضيات بروح احتفالية بعد عطلة نهاية أسبوع حافلة بالمقابلات. تبدو مسابقة نافيير-ستوكس التي أطلقتها OpenAI - والتي تضم حوالي عشرة آلاف عميل، وعشرات الملايين من الدولارات من الحوسبة، وثمانية وثمانين ساعة - وكأنها سباق محموم للفوز بجائزة من وجهة نظر المختصين. يريد علماء الرياضيات فهمًا أعمق، بينما يؤكد المختبر مرارًا وتكرارًا أنه يسعى للفوز.
أخبر تريستان باكماستر شركة OpenAI أنها عرضت عليه موارد حاسوبية غير محدودة وحقوق تأليف حصرية مقابل التخلي عن متعاونه المرتبط بشركة Anthropic. وصف باكماستر العرض بأنه رشوة، ورفضه. تؤكد OpenAI بشكل قاطع أن تعليقاته على Codex لم تؤثر على النظام، لكنه غير مقتنع. لا يزال أندرياس ثوم يتساءل عما إذا كانت محادثات ChatGPT حول عمله قد غذّت النموذج الذي بُني عليه لاحقًا. الشركة وحدها هي من تعرف الإجابة، وهو يشك في أنهم لا يعلمون هم أنفسهم.
ثم المفاجأة: تقول OpenAI إنها أحرزت تقدماً كبيراً في مسألة أخرى من مسائل جائزة الألفية. لكن لم يُكشف عن اسمها. على أي حال، لا يزال برنامج Clay بحاجة إلى فترة طويلة من قبول المجتمع. لذا لم "يفز" أحد بعد. إنهم يتسابقون بالفعل لحل المسألة التالية. يا له من أمر طريف!.
التعليمات
ما هي خطة داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، لتنظيم وتيرة تطوير الذكاء الاصطناعي؟
نشر أمودي مقالًا مطولًا يدعو فيه الصناعة إلى التريث - لا التوقف - لأن التحسين الذاتي المتكرر يتقدم بوتيرة أسرع من قدرة المدققين على مواكبته. تتمثل الخطوة الأولى في دعوة مُقيّمين مُدمجين بشكل أحادي إلى شركة أنثروبيك، وتزويدهم بشارات تعريفية ومكاتب وأجهزة حاسوب محمولة، ومنحهم الحق في نشر نتائجهم دون أي قيود إعلامية. ثم يطالب أمودي المختبرات الديمقراطية بتنسيق معايير السلامة، وفي نهاية المطاف، التوصل إلى نوع من الاتفاق مع الحكومات الاستبدادية. كما يطالب بإعفاء محدود من قوانين مكافحة الاحتكار، بحيث لا تُشكل مناقشات السلامة نفسها مشكلة قانونية.
لماذا قال سام ألتمان إن شركة OpenAI لن تطرح أسهمها للاكتتاب العام هذا العام؟
في مقابلة حصرية، صرّح ألتمان بأن طرح أسهم الشركة للاكتتاب العام في الوقت الراهن سيكون توقيتًا غير مناسب، نظرًا لعدم اكتمال أعمال السلامة والتوافق والاستعداد المجتمعي. وعندما أُلحّ عليه، أكّد أنه لن يتم ذلك هذا العام، على الرغم من اهتمام المصرفيين ووجود ملف سري. وأوضح أن هيكل الشركة القائم على نموذج الربحية/غير الربحية يُمكّن OpenAI من اتخاذ قرارات قد لا تصبّ بوضوح في مصلحة المساهمين. كما أشار إلى أن تطوير ذكاء اصطناعي يتجاوز السيطرة البشرية أمر ممكن تمامًا، وتعهد بتعليق التدريب إذا ما اقتضى الأمر ذلك.
هل ألمح ألتمان إلى وجود اتفاقية أمان مع مختبرات الذكاء الاصطناعي الأخرى؟
في المقابلة نفسها، صرّح ألتمان بأنه يتوقع عقد اجتماع مع نظرائه مثل أمودي، وإيلون ماسك، وديميس هاسابيس، رافضًا الإعلان المسبق عن محادثات خاصة. وأوضح أن المخاطر الكارثية التي تتجاوز 10% غير مقبولة، وأن النماذج التي لم تُطرح بعد تتمتع بقدرات عالية تجعل المضي قدمًا دون تحسين آليات المراقبة أمرًا متهورًا. وكان الموظفون قد استمعوا إلى نسخة من هذا الكلام داخليًا، لذا فإن التعليقات العامة قد تُشير إلى التنسيق بدلًا من تأكيد اتفاق نهائي.
هل ستفي OpenAI بتعهد Anthropic بتوفير مقيّمين مدمجين؟
بعد ساعات من نشر مقال أمودي، أعلن ألتمان أن OpenAI ستُقدم تعهدًا مماثلًا بمنح المُقيّمين المُدمجين صلاحيات وصول مماثلة للموظفين، مع تفاصيل إضافية قريبًا. وكتب إيلون ماسك أن داريو مُحق، واضعًا ثلاثة رؤساء تنفيذيين مُنافسين على شعار مُشابه. وطلبت Hugging Face الانضمام إلى برنامج المُقيّمين وأطلقت مبادرة التوافق المفتوح. لا يُمكن لأوروبا تقديم نفس الإعفاء من قوانين مكافحة الاحتكار الأمريكية الذي طرحه أمودي، لذا فإن الاتفاق في الوقت الحالي أمريكي في جوهره.
لماذا ينتقد علماء الرياضيات سباق نافيير-ستوكس الذي أطلقته شركة OpenAI؟
يصف علماء الرياضيات عملية محاكاة نافيير-ستوكس التي أجرتها OpenAI، والتي استغرقت 88 ساعة بمشاركة نحو 10 آلاف عميل، بأنها أشبه بمطاردة جوائز تُعطي الأولوية للفوز على حساب الفهم العميق. وقال تريستان باكماستر إن OpenAI عرضت عليه موارد حاسوبية غير محدودة وحقوق تأليف حصرية مقابل التخلي عن متعاون تابع لشركة Anthropic؛ لكنه وصف العرض بالرشوة ورفضه. وتؤكد OpenAI أن رسائل Codex التي كتبها لم تؤثر على النظام، لكنه لا يزال غير مقتنع. ولا يزال أندرياس ثوم يتساءل عما إذا كانت محادثات ChatGPT حول عمله قد ساهمت في تطوير النموذج لاحقًا.
هل حققت OpenAI تقدماً في حل مشكلة أخرى من مشاكل جائزة الألفية؟
أعلنت OpenAI أنها أحرزت تقدماً ملحوظاً في مسألة أخرى من مسائل جائزة الألفية، لكنها لم تفصح عن اسمها. ولا يزال معهد كلاي للرياضيات بحاجة إلى فترة طويلة من قبول المجتمع العلمي، لذا لم يُعلن عن فوز أيٍّ من الباحثين رسمياً بعد. وفي أوساط المختصين، يُفسَّر هذا التكتم، بالإضافة إلى سباق نافيير-ستوكس السابق، على أنه سعيٌ حثيثٌ من المختبرات للفوز بالجائزة التالية. وتُصوِّر مقابلات موقع The Verge هذا التوتر على أنه رغبةٌ لدى علماء الرياضيات في الحصول على رؤى ثاقبة، بينما تسعى OpenAI للفوز.