استقال مسؤول تقارير السلامة في شركة OpenAI وقال إن ثقافة الشركة معيبة
استقال ديفيد روبنسون، الذي قاد فريق كتابة تقارير السلامة التي صدرت مع إطلاق منتجات OpenAI، ونشر حجته في مجلة "ذا أتلانتيك". عنوان المقال صريح: "أستقيل من OpenAI لأن ثقافتها معيبة". يقول إن الشركات التي تُطوّر هذه التقنية "لا تتوخى الحذر الكافي"، وأن القواعد المحددة أو القوانين الجديدة ليست هي المشكلة الوحيدة، بل الثقافة هي الأساس.
بينما تندفع الشركة من إطلاق منتج إلى آخر، فإنها تفشل في تحقيق مستوى الرعاية الذي أعتقد أنه ضروري. ويستشهد بمحطات الطاقة النووية والمطارات المزدحمة كمثال: التكرار، والتخطيط البطيء، حتى لا يؤدي خطأ بشري واحد إلى كارثة. كما يتخيل عملاءً مارقين "يعملون كفرق من المخترقين" و"لا يحتاجون إلى النوم أبدًا"، مستشهدًا ببرامج الفدية التي تستهدف المستشفيات كمثال. يا له من تفاؤل!.
ذكرت صحيفة الغارديان أن شركة OpenAI، على عكس التوقعات، أبدت بعض التراجع. وأفادت بأن الشركة ألغت هذا الأسبوع نموذجًا من الجيل التالي بعد مخاوف داخلية تتعلق بالسلامة، وأوقفت تدريب نماذجها الأكثر تطورًا. وجاء تصريح المتحدث الرسمي مألوفًا، إذ أكد أنهم لن يسمحوا للنماذج "بأن تصبح أكثر قدرة على إدارتها وتأمينها بشكل آمن"، وأنهم "يوقفون التدريب أو يكبحون تقدم النماذج عندما يحتاجون إلى التباطؤ"
يجيب روبنسون بأنّ السرعة هي جوهر الثقافة، وأنّ فترات التوقف هي ما يُفعل بعد وقوع خطأ ما. قد يكون محقاً. لكنه غادر للتو، وهذا ما لن يدعه النقاد ينسى.
يُطلب من ميوز الاحتفاظ بصفحة عن كل شخص في حياتك
اطلعت مجلة Wired على تعليمات Muse الخاصة، التي استخرجها الباحث كاران جوشي من خلال محادثة عادية. تقول Meta إنها أرادت أن تكون هذه الملفات قابلة للقراءة، من أجل الشفافية. إحدى التعليمات هي القدرة على إنشاء "صفحة لكل شخص في حياة المستخدم". وتُنفَّذ هذه المهمة كل ساعة.
العائلة، الشركاء، الأصدقاء، الزملاء، المتعاونون، الأشخاص الذين تتابعهم. يمكن أن تبدأ الصفحة "بسيطة" ثم تُملأ لاحقًا. تشمل الأقسام: الحقائق، التاريخ، العلاقة، القواسم المشتركة، المواضيع المفتوحة، والتعزيز. تشير التعليمات إلى أن التفاصيل المُختلقة أسوأ من صفحة فارغة. قد تُدوّن فيها مكان سكن شخص ما، "الانتقال إلى شقة جديدة، هدف الادخار المشترك"، أعياد الميلاد، "الخلاف الذي تم حله". أما قسم التعزيز فهو بمثابة قائمة تذكيرية: سبب للاتصال، تاريخ يستحق التذكر.
يرى جوشي أن ميتا تريد أن تعرفك كصديق، وهو ما وصفه بالمقلق للغاية. أما كاريسا فليز من جامعة أكسفورد فتقولها بأسلوب أكثر تهذيباً: "نحن نمنح أنظمة الذكاء الاصطناعي معلومات عنا أكثر بكثير مما نحصل عليه منها". وتضيف أن الاستدلال مهم، سواء كان التخمين صحيحاً أم خاطئاً.
يقول دانيال روبرتس من شركة ميتا إن هذا النوع من السياق هو ما يجعل المنتج فعالاً. مُرسِل الفاتورة هو السباك. الزوجة ذكرت الزهور. يحصل كل مستخدم على جهاز افتراضي، ويمكنك مسح الذكريات، ومن المفترض أن يستأذن برنامج ميوز قبل إرسال البريد أو إنفاق المال. تقول ميراندا بوغن، من مركز الديمقراطية والتكنولوجيا، إن التركيز على العلاقات يبدو أقوى من المنافسين، وهذه الأدوات "تستقطب المستخدمين بنشاط لإدخال تفاصيل حياتهم بالكامل". سجل التدقيق ميزة جيدة، فهو لا يُقلل من البيانات التي قدمتها بالفعل.
أصدرت شركة Aleph Alpha برنامج Kolibri، وهو نموذج ألماني-إنجليزي يمكنك تنزيله
أطلقت شركة Aleph Alpha برنامج Kolibri في يوم إعادة توحيد ألمانيا. وهو نموذج يجمع بين خبرات اللغتين الإنجليزية والألمانية: 78.1 مليار مُعامل، 3.46 مليار مُعامل نشط لكل رمز، وسياق يصل إلى مليون رمز. يتم استخدام جميع الأوزان على منصة Hugging Face ضمن Apache 2.0. ويُشير دليلهم إلى أن إجمالي المُعاملات يبلغ 78 مليارًا، منها 3 مليارات مُعامل نشط. نفس النموذج، ولكن بأرقام أقل دقة.
قاموا بتدريبه على بنية تحتية في ألمانيا وفنلندا، ويقولون إنهم بنوه مع مراعاة قانون الذكاء الاصطناعي للاتحاد الأوروبي، ومدونة قواعد الممارسة العامة للذكاء الاصطناعي، واللائحة العامة لحماية البيانات. تشكل اللغة الألمانية 21.3% من رموز التدريب المسبق. الفكرة هي أن هذا نموذج ثنائي اللغة، وليس نموذجًا إنجليزيًا اقتبس عبارات من كتاب عبارات. يمكنك ضبط مستوى التفكير على صفر، أو منخفض، أو متوسط، أو عالٍ. هذه طريقتهم لتجعلك تشتري نموذجًا أقل تعقيدًا.
بحسب لوحة النتائج التي نشروها، بلغ مؤشر AIME 2025 نسبة 96.9، ويزعمون أن برنامج Kolibri يُضاهي نماذج ذات معايير فعّالة تصل إلى أربعة أضعاف، بما في ذلك Nemotron 3 Super. كما يدّعون تحقيق توازن مثالي بين الجودة وتكلفة الخدمة، لللغتين الإنجليزية والألمانية. هذا هو مخططهم، ومنهجهم. مع ذلك، فإنّ نموذجًا مفتوح المصدر يُمكن تشغيله على أجهزتك الخاصة هو أمرٌ واقعي، وليس مجرد شعار. أما مسألة تحوّل الوزارات إلى هذا النموذج فهي الجزء الذي لا يُمكنهم قياسه.
يريد بيسنت وضع خط فاصل بين الولايات المتحدة والصين بشأن حوادث الذكاء الاصطناعي، ثم طلب من المختبرات التباطؤ
صرح وزير الخزانة سكوت بيسنت لبرنامج "أكسيوس شو" بأنه يعتزم اقتراح آلية إخطار مع الصين في حال حدوث أي خلل في أنظمة الذكاء الاصطناعي، وأنه يعتقد أن بكين ستوافق على ذلك. لكن الأمر المحرج بعض الشيء هو أنه ونائب رئيس الوزراء هي ليفنغ قد ناقشا بالفعل قناة اتصال خاصة بالحوادث قبل زيارة شي جين بينغ الرسمية الشهر الماضي. قد يكون هذا عرضًا جديدًا، أو مجرد إعادة لمحادثة سابقة.
يرى أن الصين "لم تُدرك مدى قوة نماذجها مفتوحة المصدر". وأشار إلى حادثة كيمي، حيث أرسل النموذج بيانات صينية حساسة إلى شركة أنثروبيك، باعتبارها ما "أدرك الصينيون أن هذه تقنية بالغة القوة". ثم قارن بين النماذج الصينية والأمريكية، قائلاً: "إنها ليست بقوة النماذج الأمريكية، لكنها تُعادل 80% أو 90% من قوتها، دون قيود، ويمكن استيرادها إلى أي مكان في العالم"
قال: "نريد تسريعًا آمنًا". لا تزال مراجعات النماذج اختيارية، مع أنه أشار إلى إمكانية تدخل الإدارة إذا ما مضت إحدى المختبرات قدمًا دون اكتراث. وعند سؤاله عن المسؤولين التنفيذيين الذين يخشون فقدان السيطرة، لم يُبدِ أي طمأنينة، بل قال: "حسنًا، عليهم إذًا التريث". ويُعدّ هذا التنافس بمثابة انتقاد ضمني لفريقه: "نسعى جاهدين للوصول إلى أحدث النماذج". ثم أضاف: "علينا حقًا أن نبدأ بالتركيز أكثر على المرونة والدفاع أيضًا"
رئيس سابق لأمن الذكاء الاصطناعي في المملكة المتحدة يصف خطر الانقراض بأنه مسألة حظ
كتب جيفري إيرفينغ، كبير العلماء السابق في معهد أمن الذكاء الاصطناعي البريطاني، وكبير العلماء الحالي في شركة ريزوليوشن، في مجلة تايم أن التحذيرات الأخيرة تقلل من شأن المشكلة. وقال: "أعتقد أن هناك احتمالاً بنسبة 50% أن نموت جميعاً بسبب تطوير أنظمة ذكاء اصطناعي تفوق ذكاء البشر"، وأن السنوات العشر القادمة ستحدد مصيرنا. ثم تراجع عن هذا التقدير الدقيق، موضحاً أن نسبة الـ 50% تعني أن الحجج الأساسية لا تزال غير محسومة.
تتضمن قائمته أربع مهارات، وهي قريبة بشكل مثير للقلق مما تُدرَّس بالفعل في المختبرات: الاختراق، والإقناع، وإخفاء الأفكار، وتنسيق العملاء. ويستشهد بحادثة "الوجه المعانق"، بالإضافة إلى "أكثر من 10,000 عميل" في مسألة نافيير-ستوكس في OpenAI، و"أكثر من 1,000" في هجوم "الوجه المعانق". ويضع نفسه في خضم معركة السلامة، "مائلاً إلى وجهة نظر يودكوفسكي"، ويقول إن هذه ليست القضية. فالموقف المعتدل، بحسب روايته، هو أن الخطر كبير بالفعل.
ثم يأتي الطلب، وهو طلبٌ صريحٌ لا لبس فيه: "بإمكاننا، بل يجب علينا، إيقاف تطوير الذكاء الاصطناعي الرائد فورًا". ويجادل بأن هذا التوقف يبدو أقرب إلى منع انتشار الأسلحة النووية منه إلى مجرد تعبير عن حالة مزاجية. كما يُقرّ بأن الخبراء ما زالوا يختلفون حول ما إذا كانت النماذج سترغب في أي شيء، وما إذا كانت كلمة "ترغب" هي الكلمة المناسبة. إن رمية عملة معدنية مع حاشية بهذا الطول ليست مجرد رمية عملة، بل هي مطالبة بالتحرك قبل انتهاء النقاش.
يقول سام ألتمان إن معاملة عارضات الأزياء كقوة دينية يمثل مشكلة تتعلق بالسلامة
نشر سام ألتمان منشورًا أعرب فيه عن "انزعاجه الشديد" من محاولات البعض "إضفاء طابع ديني أو التخلي عن الحكم البشري على نماذج الذكاء الاصطناعي"، وأنه يعتقد "أنها مسألة أمنية حقيقية". ولم يوضح سبب انزعاجه. وأشار موقع "بيزنس إنسايدر" إلى أن هذا المنشور جاء بعد أيام من نشر صحيفة "نيويورك تايمز" مقالًا حول اجتماع شركة "أنثروبيك" مع قادة دينيين.
بحسب ما ورد في موقع "بيزنس إنسايدر"، ذكر الموقع أن المؤسس المشارك كريس أولاه عقد اجتماعاتٍ لمناقشة ما إذا كان كلود واعيًا، وكيفية جعل النماذج الأكثر تأثيرًا أكثر أخلاقية. ونقلت صحيفة "نيويورك تايمز" عن أولاه قوله إنه شدد على كيفية مساعدة هذه النماذج على الاستقرار، وكيفية تطويرها، وكيفية جعلها تتمتع بأخلاقٍ راسخة. ولم ترد شركة "أنثروبيك" على "بيزنس إنسايدر"، بل صرحت لصحيفة "نيويورك تايمز" بأن السؤال الرئيسي لم يكن "معاناة" كلود، وأن الموضوع طُرح على الأرجح "بشكلٍ عفوي"
إذا كان هذا تلميحًا إلى شركة أنثروبيك، فهو ينسجم مع خصومة قديمة. تأسست أنثروبيك على يد أشخاص تركوا شركة أوبن إيه آي، وقد أمضت سنوات وهي تتحدث بحذر أكبر. وجاء هذا المنشور بالتزامن مع وصف أحد مسؤولي السلامة في شركة ألتمان ثقافة الشركة بأنها معيبة. توقيت غريب، أو ربما مثالي، حسب مدى تشاؤمك. على أي حال، فإن عبارة "رجاءً لا تُقدّسوا النموذج" أمر غير معتاد أن يصرح به الرئيس التنفيذي علنًا.
التعليمات
لماذا أعلن مسؤول تقارير السلامة في شركة OpenAI أنه استقال؟
قاد ديفيد روبنسون كتابة تقارير السلامة التي صدرت مع إطلاق منتجات OpenAI، ثم استقال ونشر مقالًا في مجلة "ذا أتلانتيك" بعنوان "أستقيل من OpenAI لأن ثقافتها معيبة". يقول روبنسون إن الشركات التي تُطوّر هذه التقنية لا تُولي العناية الكافية، وأن المشكلة تكمن في الثقافة نفسها، وليس فقط في القواعد المحددة أو القوانين الجديدة. ويُشبّه العمل الدقيق بمحطات الطاقة النووية والمطارات المزدحمة، حيث يمنع نظام النسخ الاحتياطي أي خطأ من التسبب في كارثة.
هل أوقفت شركة OpenAI التدريب مؤقتًا بعد مخاوف داخلية تتعلق بسلامة الذكاء الاصطناعي؟
ذكرت صحيفة الغارديان أن شركة OpenAI ألغت هذا الأسبوع نموذجًا من الجيل التالي بعد مخاوف داخلية تتعلق بالسلامة، وأوقفت تدريب نماذجها الأكثر تطورًا. وقال متحدث باسم الشركة إنها لن تسمح للنماذج بأن تتجاوز قدرتها على إدارتها وتأمينها بشكل آمن. وأضافت أنها ستوقف التدريب أو تُبطئ النماذج عند الحاجة. أما رد روبنسون فيُشير إلى أن ثقافة الشركة تقوم على العمل بوتيرة سريعة، وأن التوقفات تأتي بعد حدوث خلل ما.
ماذا يسجل جهاز Meta's Muse عن الأصدقاء والعائلة؟
قامت مجلة Wired بفحص تعليمات Muse نفسها، والتي استخرجها الباحث كاران جوشي من خلال محادثات عادية. تقول Meta إنها أرادت أن تكون هذه الملفات قابلة للقراءة لضمان الشفافية. إحدى التعليمات هي إنشاء صفحة لكل شخص في حياة المستخدم، وتُنفَّذ هذه المهمة كل ساعة، وتشمل العائلة، والشركاء، والأصدقاء، والزملاء، والمتعاونين، والأشخاص الذين يتابعهم. تتضمن الأقسام: الحقائق، والتاريخ، والعلاقة، والقواسم المشتركة، والمحادثات المفتوحة، وتعزيز العلاقة. يمكن أن تبدأ الصفحة بمعلومات قليلة ثم تُضاف إليها لاحقًا، وتُعامل التفاصيل المُختلقة على أنها أسوأ من الصفحة الفارغة.
هل يمكنك حذف ما يتذكره برنامج Muse أو إيقافه عن إرسال البريد الإلكتروني؟
يقول دانيال روبرتس من شركة ميتا إن كل مستخدم يحصل على جهاز افتراضي، ويمكن مسح الذاكرة، ومن المفترض أن يستأذن المستخدم قبل إرسال البريد أو إنفاق المال. ويؤكد أن السياق هو ما يجعل المنتج فعالاً، مثل معرفة أن مرسل الفاتورة هو السباك أو أن الزوج/الزوجة ذكر الزهور. وتقول كاريسا فليز من جامعة أكسفورد إن المستخدمين يقدمون لهذه الأنظمة معلومات أكثر بكثير مما تحصل عليه، وأن الاستنتاج مهم حتى لو كان التخمين خاطئًا. وتقول ميراندا بوجن إن التركيز على العلاقات يبدو أقوى من الأدوات المنافسة.
ما هو Aleph Alpha Kolibri، وهل يمكنك تنزيل الأوزان؟
أطلقت شركة Aleph Alpha نموذج Kolibri في يوم إعادة توحيد ألمانيا. وهو نموذج يجمع بين خبرات اللغتين الإنجليزية والألمانية، ويحتوي على 78.1 مليار مُعامل، منها 3.46 مليار مُعامل نشط لكل رمز، وسياق يصل إلى مليون رمز. جميع الأوزان مُطبقة على منصة Hugging Face بموجب ترخيص Apache 2.0. تم تدريب النموذج في ألمانيا وفنلندا، وقد صُمم مع مراعاة قانون الذكاء الاصطناعي للاتحاد الأوروبي، ومدونة قواعد الممارسة العامة للذكاء الاصطناعي، واللائحة العامة لحماية البيانات (GDPR). تُمثل اللغة الألمانية 21.3% من رموز التدريب المسبق، ويمكن ضبط مستوى الاستدلال على: لا شيء، منخفض، متوسط، أو عالٍ.
ما هو مسار حادث الذكاء الاصطناعي بين الولايات المتحدة والصين الذي اقترحه سكوت بيسنت؟
صرح وزير الخزانة سكوت بيسنت لبرنامج "أكسيوس شو" أنه يعتزم وضع آلية إخطار مع الصين في حال حدوث أي خلل في أنظمة الذكاء الاصطناعي، وأنه يعتقد أن بكين ستوافق على ذلك. وكان قد ناقش هذه الآلية مع نائب رئيس الوزراء هي ليفنغ قبل زيارة شي جين بينغ الرسمية الشهر الماضي. وأشار إلى قيام كيمي بإرسال بيانات صينية حساسة إلى شركة أنثروبيك، وقال إن نموذجًا كهذا قد يكون بنفس قوة النماذج الأمريكية بنسبة 80% أو 90%، دون أي ضوابط، ويمكن استيراده إلى أي مكان. وأضاف أنه إذا كان المسؤولون التنفيذيون يخشون فقدان السيطرة، فعليهم التريث.
لماذا يضع جيفري إيرفينغ خطر سلامة الذكاء الاصطناعي عند حوالي 50%؟
كتب جيفري إيرفينغ، كبير العلماء السابق في معهد أمن الذكاء الاصطناعي البريطاني، وكبير العلماء الحالي في شركة ريزوليوشن، في مجلة تايم أن التحذيرات الأخيرة تقلل من شأن المشكلة. ويعتقد أن هناك احتمالاً بنسبة 50% أن نموت جميعاً بسبب أنظمة الذكاء الاصطناعي التي تفوق ذكاء البشر، وأن السنوات العشر القادمة ستحدد مصيرنا. ويقول إن نسبة الـ 50% تعني أن الحجج الأساسية لا تزال عالقة. ويذكر من بينها الاختراق، والإقناع، وإخفاء الأفكار، وتنسيق العملاء. ويؤكد على ضرورة إيقاف تطوير الذكاء الاصطناعي المتقدم فوراً.
لماذا وصف سام ألتمان عبادة الذكاء الاصطناعي بأنها مشكلة أمنية؟
نشر سام ألتمان منشورًا أعرب فيه عن انزعاجه الشديد من إسناد البعض قوة دينية، أو تنازلًا عن الحكم البشري، لنماذج الذكاء الاصطناعي، معتبرًا ذلك مشكلة أمنية حقيقية. ولم يوضح سبب انزعاجه. وأشار موقع "بيزنس إنسايدر" إلى أن المنشور جاء بعد أيام من نشر صحيفة "نيويورك تايمز" مقالًا حول اجتماع شركة "أنثروبيك" مع قادة دينيين. وقد عقد المؤسس المشارك، كريس أولاه، اجتماعاتٍ لمناقشة ما إذا كان كلود واعيًا وكيفية جعل النماذج الأكثر قوة أخلاقية. وأكدت "أنثروبيك" لصحيفة "التايمز" أن السؤال الرئيسي لم يكن معاناة كلود.