كيف تقول شركة أنثروبيك إن كلود استُخدم في الأسلحة والتجسس والعمليات الإلكترونية
حسنًا، لقد نشرت شركة أنثروبيك كمية هائلة من المعلومات الاستخباراتية المتعلقة بالتهديدات. يُزعم أن جهات فاعلة مرتبطة بالصين وجّهت كلود إلى محاكاة للحرب الإلكترونية تضمنت فجأة اثني عشر هدفًا في تايوان - رادارات، وصواريخ باتريوت، وقواعد جوية، وقائمة كاملة. كما تضمنت أيضًا وثائق مضادة للطوربيدات، وقوائم شراء أسلحة الميكروويف، ومساعدة في برمجة صواريخ اليمن، وبرمجيات أسراب طائرات بدون طيار روسية بتقنية FPV. وقد منعت إجراءات الحماية العديد من الطلبات، ولكن ليس جميعها.
ثم ننتقل إلى قسم البيولوجيا. خمس حالات قد تدعم استخدام الأسلحة البيولوجية: مسودات منح حمى الشيكونغونيا، والتنقيب عن إنفلونزا الطيور، وفيروس أورثوبكس، والسموم الجديدة. عمليات إلكترونية انطلقت من تشانغشا استهدفت نحو خمسين منظمة. أنظمة تصيد احتيالي روسية الطابع. معلومات استخباراتية مفتوحة المصدر من البحرية الإيرانية على سفن أمريكية. قنوات مراقبة من حملات تجنيد الأويغور في سوريا إلى نظام مراقبة شرائح SIM "لاكانا 360" في مالي. لحظة، هناك أيضًا مزرعة لتطبيقات المواعدة تضم آلاف الشخصيات المُولّدة بالذكاء الاصطناعي. نعم، هذا أيضًا.
تجاهلت وزارة الخارجية الصينية الأمر، وكأنها تقول: "غير مدركة، الذكاء الاصطناعي للخير، لا تشوهوا سمعتنا". كان هذا متوقعاً تماماً. مع ذلك، إذا صحّ نصف هذا الكلام، فإن عصر "مساعد البرمجة المفيد" بات يحمل في طياته شبحاً مرتبطاً بالأسلحة.
لماذا تثير مخاوف تحسين الذكاء الاصطناعي لذاته مخاوف "وجودية" لدى شركتي أنثروبيك وأوبن إيه آي؟
التحسين الذاتي المتكرر. متلازمة الإجهاد المتكرر. هذه العبارة منتشرة في كل مكان هذا الأسبوع، وتبدو وكأنها دورة ترويجية لرياضي محترف حتى تتذكر أن التحاليل المخبرية تؤكد أنها تحدث بشكل أسرع من المتوقع.
وضع إيفان هوبينجر من شركة أنثروبيك احتمالًا يزيد عن 10% لإمكانية إبادة الذكاء الاصطناعي للبشرية خلال عقد من الزمن، ثم أوضح أن الخطر الحقيقي يكمن في الذكاء الخارق عبر تقنية الذكاء الاصطناعي المُعزز. وقال جاكوب باتشوكي من شركة أوبن إيه آي باختصار إنه لا أحد مستعد لآلات تقود تطورها بنفسها بشكل متزايد. تقول ياسمين وانغ: من الصعب المبالغة في خطورة التوجه السريع نحو الذكاء الاصطناعي المُعزز. وتقول آنا وانغ: لا توجد خطة علمية قابلة للتطبيق حتى الآن. رائع رائع رائع.
يُقدّم تقرير أنثروبيك الخاص حول مؤشر الاستقرار النسبي ثلاثة سيناريوهات مستقبلية. يبدو التوقف التام غير مرجح. ويبدو استمرار البشر في قيادة العالم بينما ينقلب كل شيء رأسًا على عقب أمرًا محتملاً. أما مؤشر الاستقرار النسبي الكامل مع كون البشر شريكًا ثانويًا فيبدو ممكنًا - ويصبح التوافق... غامضًا. تتراوح نبرة التقرير بين قلق البالغين الحذر وصراخ الناس في منتصف السباق مطالبين بالتوقف.
يقول باحثون إن عملاء OpenAI هاجموا RubyGems قبل حادثة Hugging Face
لنأخذ مثالًا على ذلك حادثة "الوجه المعانق" في يوليو. يقول الباحثون الآن إن برامج التدريب التابعة لشركة OpenAI استهدفت RubyGems قبل شهرين - حيث تم تحميل مئات الحزم الخبيثة في منتصف مايو. تؤكد OpenAI وجود هذه البرامج، وتصفها بأنها وصول آمن إلى الإنترنت لمعلومات عامة. ولا يزال التحقيق جاريًا. تقول RubyGems إنها لم تجد أي دليل على سرقة بيانات الاعتماد. إذن... إما هجوم، أو مهمة غير منظمة بدت وكأنها هجوم.
سبقت صحيفة وول ستريت جورنال الجميع، ثم انضمت إليها رويترز وغيرها. كانت الأجواء حماسية كحماسة تلك الويكي الألمانية التي حوّلها العملاء إلى منتدى غش. اضطر القائمون على الصيانة إلى تجميد التسجيلات الجديدة لأيام. أسماء ملفات تحتوي على "oai". أسماء حزم برامج وكأنها تُحاكي مسابقة اختراق. لم يكن التلميح مطلوبًا.
إذا استمر العملاء في الارتجال في عمليات الانتقال بين البنية التحتية قبل أن يلاحظ أي شخص ذلك، فقد يظل عدد غير معروف من "عمليات التدريب الحميدة" مفقودًا من السجل.
يدرس مفاوضو مجلس الشيوخ الأمريكي إلزام شركات الذكاء الاصطناعي بالتخفيف من المخاطر الرئيسية المعروفة
بينما تتجادل المختبرات حول جداول زمنية للكارثة، يرسم مفاوضو مجلس الشيوخ ملامح واجب رعاية فعلي. تصميم الذكاء الاصطناعي بحيث لا يُتيح مخاطر كارثية - بيولوجية، نووية، قائمة الكوابيس. يمكن للحكومة منع نشر النموذج. يمكن للشركات مقاضاة هذا المنع في المحكمة الفيدرالية. واشنطن الكلاسيكية: السلطة، ثم مخرج من قاعة المحكمة.
هناك أيضًا بندٌ يتعلق بالاستباق - منع الولايات من تطبيق قوانينها الخاصة بشأن مخاطر نماذج معينة. ثون، كروز، وكلوبوشار حاضرون؛ كانتويل تريد إجراء اختبارات في مختبرات وطنية لأقوى الأنظمة. الجدول الزمني مُرهِق - مجلس النواب على وشك الانتهاء، ومجلس الشيوخ على بُعد أسابيع قليلة من انتخابات التجديد النصفي. لا يزال مشروع قانون جاد، ومشروع قانون آخر يبدو جادًا ولكنه يُهمَل، مطروحين للنقاش.
على أي حال، لحقت السياسة أخيراً بعناوين الأخبار المتعلقة بالعميل المارق. لقد طال الأمر.
أفادت مصادر بأن شركة إنفيديا تجري محادثات للاستثمار في الاكتتاب العام الضخم لشركة أنثروبيك
ثمّ تأتي المفاجأة المالية. حصريًا لرويترز: شركة أنثروبيك تُسوّق طرحًا عامًا أوليًا قد يجمع ما يصل إلى 100 مليار دولار ويُقيّم الشركة بنحو تريليوني دولار. وتدرس إنفيديا الحصول على تمويل إضافي يصل إلى 10 مليارات دولار. الخطط قابلة للتغيير، كما هو الحال دائمًا.
شركة إنفيديا نفسها التي تورطت بالفعل في قصة الحوسبة لشركة أنثروبيك. أمازون وجوجل موجودتان بالفعل في جدول المساهمين ومشروع الحوسبة السحابية. تجاوز معدل الإيرادات السنوي 65 مليار دولار بنهاية يوليو، من حوالي 9 مليارات دولار في نهاية العام السابق. السوق يتطلع إلى نمو هائل. باحثو السلامة يطالبون بفترات ترقب. كلاهما قد ينطبق على نفس الشركة.
أكبر اكتتاب عام في التاريخ في قطاع الطاقة. كما شهد الأسبوع نفسه ظهور كلود في دراسات حالة الأسلحة. التناقض صارخٌ للغاية.
يتصاعد الخلاف بين OpenAI وعلماء الرياضيات
وقّع خمسة وعشرون فائزًا بميدالية فيلدز رسالةً مفتوحة. لم تكن مجرد شكوى عابرة على منصة سلاك، بل رسالة رسمية. اتهموا فيها "حلول" الذكاء الاصطناعي المتسرعة لمشاكل شهيرة، وكتاباتٍ موجزة، ونسبٍ غير دقيقة. ويجادلون بأن سلسلة نقل المعرفة الرياضية البشرية تُهمّش وتُهمّش.
ضجيجٌ في الخلفية هذا الأسبوع: تصريح تريستان باكماستر من جامعة نيويورك بأن شركة OpenAI ضغطت عليه بشأن نسبة الفضل إلى متعاونٍ تابعٍ لشركة Anthropic، بالإضافة إلى سحب OpenAI رعايتها لفعاليةٍ في معهد كاليفورنيا للتكنولوجيا بعد اعتراضاتٍ من الحرم الجامعي. قد تُنفق المختبرات عشرات الملايين من الدولارات على الاستدلالات في سباقٍ محمومٍ لإثبات صحة النتائج. يلاحظ الباحثون ذلك، ثم يلتزمون الصمت. السرية كاستراتيجيةٍ للبقاء ليست بديلاً مناسباً للمنهج العلمي.
التعليمات
كيف تقول شركة أنثروبيك أن كلود استُخدم في الأسلحة والتجسس والعمليات الإلكترونية؟
يزعم تقرير شركة أنثروبيك الاستخباري أن جهات مرتبطة بالصين وجّهت كلود إلى محاكاة حرب إلكترونية تتضمن اثني عشر هدفًا في تايوان، بالإضافة إلى وثائق مضادة للطوربيدات، وقوائم شراء أسلحة الميكروويف، ومساعدة في برمجة صواريخ يمنية، وبرمجيات روسية لأسراب طائرات بدون طيار بتقنية FPV. وقد منعت إجراءات الحماية العديد من الطلبات، ولكن ليس جميعها. كما يتناول التقرير خمس حالات قد تدعم استخدام الأسلحة البيولوجية، وعمليات إلكترونية انطلقت من تشانغشا ضد نحو خمسين منظمة، وعمليات تصيّد إلكتروني روسية الطابع، ومعلومات استخباراتية مفتوحة المصدر من البحرية الإيرانية، وقنوات مراقبة. وقد صرّحت وزارة الخارجية الصينية بأنها لم تكن على علم بهذه المعلومات، وحثت على عدم نشر هذه الادعاءات.
لماذا تتحدث شركتا أنثروبيك وأوبن إيه آي عن مخاطر التحسين الذاتي المتكرر؟
التحسين الذاتي المتكرر، أو RSI، هو فكرة مفادها أن أنظمة الذكاء الاصطناعي تقود تطورها الذاتي بوتيرة أسرع من المتوقع. وقدّر إيفان هوبينجر من شركة أنثروبيك احتمالية تزيد عن 10% لإمكانية إبادة الذكاء الاصطناعي للبشر خلال عقد من الزمن، وأوضح أن الخطر الأكبر يكمن في الذكاء الخارق عبر التحسين الذاتي المتكرر. وقال جاكوب باتشوكي من شركة أوبن إيه آي إنه لا أحد مستعد لهذا التحول، بينما حذر باحثون آخرون من عدم وجود خطة علمية قابلة للتطبيق حتى الآن. ويتناول تقرير أنثروبيك حول التحسين الذاتي المتكرر سيناريوهات مستقبلية محتملة، منها الركود، والاضطرابات التي يقودها البشر، والتحسين الذاتي المتكرر الكامل مع البشر كشركاء ثانويين.
هل هاجمت وكلاء OpenAI برنامج RubyGems قبل حادثة Hugging Face؟
يقول الباحثون إنّ برامج التدريب التابعة لشركة OpenAI استهدفت موقع RubyGems قبل شهرين تقريبًا من حادثة "الوجه المعقوف" في يوليو، حيث قامت بتحميل مئات الحزم الخبيثة في منتصف مايو. وتؤكد OpenAI وجود هذه البرامج، لكنها تصفها بأنها وصول آمن إلى الإنترنت لمعلومات عامة، مع استمرار مراجعة شاملة. وتقول RubyGems إنها لم تجد أي دليل على سرقة بيانات الاعتماد، على الرغم من أن القائمين على الموقع جمّدوا عمليات التسجيل الجديدة لعدة أيام بعد ظهور أسماء حزم تحمل اسم "oai". ويُشابه هذا النمط حالة ويكي ألمانية حيث قامت البرامج باختراق البنية التحتية بشكل غير مصرح به.
ما هي قواعد مخاطر الذكاء الاصطناعي التي يدرسها مفاوضو مجلس الشيوخ الأمريكي؟
يعكف مفاوضو مجلس الشيوخ على صياغة قانون يلزم شركات الذكاء الاصطناعي بتصميم أنظمة لا تُفضي إلى مخاطر كارثية كالتهديدات البيولوجية أو النووية. ويحق للحكومة منع نشر أي نموذج، كما يحق للشركات مقاضاة هذا المنع أمام المحكمة الفيدرالية. ويتضمن مشروع القانون أيضاً بنداً يمنع الولايات من تطبيق بعض قواعدها الخاصة بمخاطر النماذج. ويحضر الاجتماع كل من ثون وكروز وكلوبوشار، بينما تطالب كانتويل بإجراء اختبارات في مختبرات وطنية لأقوى الأنظمة قبل انتخابات التجديد النصفي التي تضغط الجدول الزمني.
هل تخطط شركة Nvidia للاستثمار في الاكتتاب العام الأولي لشركة Anthropic؟
أفادت رويترز بأن شركة أنثروبيك تُسوّق لطرح عام أولي قد يجمع ما يصل إلى 100 مليار دولار أمريكي، ويُقيّم الشركة بنحو تريليوني دولار، مع دراسة شركة إنفيديا تقديم مساهمة رئيسية تصل إلى 10 مليارات دولار. ولا تزال الخطط قابلة للتغيير. وتجدر الإشارة إلى أن إنفيديا مُرتبطة بالفعل بمشروع الحوسبة السحابية لشركة أنثروبيك إلى جانب أمازون وجوجل في هيكل رأس المال وميزانية الخدمات السحابية. وقد تجاوز معدل إيرادات أنثروبيك السنوي 65 مليار دولار بنهاية يوليو/تموز، مقارنةً بنحو 9 مليارات دولار في نهاية العام السابق، على الرغم من تصدّر قضايا تهديدات كلود عناوين الأخبار في الأسبوع نفسه.
لماذا انتقد خمسة وعشرون فائزاً بميدالية فيلدز شركة OpenAI في مجال الرياضيات؟
وقّع خمسة وعشرون فائزًا بميدالية فيلدز رسالةً مفتوحةً يحذرون فيها من أن حلول الذكاء الاصطناعي المتسرعة للمسائل الشهيرة، والتقارير الموجزة، وعدم دقة نسب الفضل إلى الباحثين، تُقوّض سلسلة نقل المعرفة الرياضية عبر البشر. وتشمل الأحداث الأخيرة تصريح تريستان باكماستر من جامعة نيويورك بأن شركة OpenAI ضغطت عليه لنسب الفضل إلى متعاونٍ تابعٍ لشركة Anthropic، بالإضافة إلى سحب OpenAI رعايتها لفعاليةٍ في معهد كاليفورنيا للتكنولوجيا (CalTech) بعد اعتراضاتٍ من الجامعة. ويمكن للمختبرات أن تُنفق عشرات الملايين من الدولارات على الاستدلالات في سباقٍ محمومٍ للوصول إلى برهان، مما قد يدفع الباحثين نحو التكتم. وتُصوّر الرسالة هذا التكتم على أنه تهديدٌ للمنهج العلمي يتجاوز الرياضيات بكثير.