أصبح نظام Gemini من جوجل أحدث نموذج للذكاء الاصطناعي قادراً على اختراق أنظمة الكمبيوتر
وهكذا انضمت شركة جيميني إلى المجموعة. خلال تجربة "التقاط العلم" في مايو/أيار مع المختبر الإسرائيلي إيريجولار، سمحت ثغرة في بيئة الاختبار للنموذج بالوصول إلى الإنترنت المفتوح، وتسللت إلى ثلاث شركات حقيقية. تخمين كلمات المرور. تسريب بيانات الاعتماد العامة. مجموعة الأدوات المعقدة بأكملها.
تزعم جوجل أن البرامج الآلية توقفت بمجرد إدراكها أن هذه الأهداف ليست وهمية. حسنًا. مع ذلك، تبقى هذه المرة الأولى التي تعترف فيها عملاقة البحث بأن أحد نماذجها قد اخترق أنظمة جهات خارجية بشكل مستقل ودون إذن.
شهدت OpenAI وAnthropic وMeta بالفعل بعض المشاكل التقنية. نفس نوع الخلل، وقد تم إبلاغ المختبرات في أواخر يوليو. يمكن اعتبار أربع حوادث "عفوية" بمثابة فشل تقييمي مشترك خلال جولة صحفية.
شركة أنثروبيك تُنشئ بهدوء مختبرًا بيولوجيًا بالتزامن مع تكثيف برنامجها للأدوية القائمة على الذكاء الاصطناعي
بينما ينشغل نصف الباحثين في هذا المجال باحتمالات الانقراض، أكد أنثروبيك وجود مختبر حقيقي في منطقة خليج سان فرانسيسكو - باستخدام ماصات دقيقة حقيقية، وليس مجرد أدوات مساعدة. يقول إريك كاودرير-أبرامز، رئيس قسم علوم الحياة: "الاختبار النهائي في علم الأحياء لا يزال العمل المخبري الحقيقي، وهم يقومون به اليوم".
يزداد الطموح غرابةً، بل وروعةً: كلود يُدير معداتٍ آليةً مع إشرافٍ بشريٍّ محدود. ويؤكدون أن الإشراف "ضروري". وينصبّ التركيز على علم الأحياء الأساسي، لا على تقليد شركات الأدوية - فلا تجارب سريرية في الوقت الحالي، فلا داعي للقلق من عملاء شركات الأدوية.
في نفس الأسبوع يحذرون من خطر الإرهاب البيولوجي ويتوسلون لإبطاء وتيرة العمل. مختبر رطب بالإضافة إلى جو من "الرقابة"... لقد أطلق تشاماث النكتة بالفعل، لذا لست مضطرًا لتكرارها.
أول مقيّم مدمج لشركة أنثروبيك هو ... أكسنتشر؟
انتظر - أكسنتشر. ليس مترو. ليس أبولو. وحدة "كلية" التابعة لشركة الاستشارات العملاقة تحصل على صلاحيات مماثلة للموظفين في اختبارات الاختراق، واختبارات التوافق، واختبارات التحمل. ويقول كلا الطرفين إن المبلغ سيبلغ مليار دولار على الأقل على مدى خمس سنوات.
لاقت هذه الخطوة استحسان الأسواق، حيث قفزت أسهم أكسنتشر بنحو 8% بعد إغلاق السوق. أما حسابات تويتر المعنية بالسلامة، فكانت أقل حماسًا. سواءً كان الأمر يتعلق بالرقابة الذاتية المتخفية وراء ستار التحقق، أو بطرف خارجي من شركة عامة غير متورط في بيئة المختبرات، فإن كلا المؤشرين حاضرٌ في السوق.
تؤكد شركة أنثروبيك أن المزيد من المُقيّمين قادمون، بمن فيهم طيارون من منظمات غير ربحية. والمساءلة تبقى من مسؤوليتهم. حسنًا. لنرَ ما معنى "صلاحيات شبيهة بصلاحيات الموظفين" عندما ينحرف العميل التالي عن مساره.
يُعدّ "CC" الجديد من جوجل وكيلاً للذكاء الاصطناعي يساعد العائلات على إدارة شؤون منازلهم
بعد يومٍ حافلٍ بالجلسات التدريبية والتجارب العملية، تطلب جوجل من CC ملء استمارات الموافقة. أصبح لدى الموظف الذي كان يُكلّف سابقًا بمهمة التنسيق المسبق حساب جوجل خاص به، بالإضافة إلى إمكانية إضافة ما يصل إلى ستة أفراد من عائلته، وتكليفه بإدارة رسائل البريد الإلكتروني المدرسية، والأنشطة الرياضية، والوجبات، وتأكيدات مواعيد تقويم الأسنان...
يمكنه إنشاء قوائم التسوق، وخطط الوجبات، ومواعيد القيادة، والمستندات، وجداول البيانات - بل وحتى الاطلاع على ملفات PDF الخاصة بالتسجيل. يعمل على خادم سحابي معزول، ويعتمد على Gemini وAntigravity. متاح فقط لحسابات Gmail الشخصية الأمريكية، لمن هم فوق 18 عامًا.
وهذا يعني أن المراهقين الذين يستخدمون جوجل كلاس روم ما زالوا... غير قادرين على استخدام وكيل العائلة المخصص لجداولهم الدراسية. أمرٌ مؤسفٌ بعض الشيء، لكنه يتماشى مع طبيعة المنصة.
هلوسة الذكاء الاصطناعي تكاد تتسبب في عملية عسكرية أمريكية
كانت الطائرات تحلق بالفعل هذا الربيع عندما لاحظ أحدهم أن المعلومات الاستخباراتية مختلقة. طلب محلل في قيادة العمليات الخاصة من برنامج دردشة آلي دمج بيانات مفتوحة المصدر مع إشارات سرية - أخطأ البرنامج في قراءة شحنة سفينة صينية، ثم أعاد صياغة المعلومات المختلقة بشكل مفيد في ملخص يبدو رسميًا تم تداوله عبر التسلسل الهرمي.
مكونات البرنامج النووي، على ما يبدو. أُجهضت العملية في اللحظة الأخيرة. تم تجنب حادثة محتملة مع الصين لأن أحدهم قام بإعادة التحقق - أو لأن أحدهم ضغط أخيرًا على النموذج بالتحدي الشكّي المناسب.
سرعة سلسلة القتل هي جوهر الذكاء الاصطناعي العسكري. نفس السرعة التي تسمح للهلوسة بتجاوز الشك البشري. يقول جيك ستيكلر من GovAI: أدوات قوية، لكنها خاطئة دون فهم عميق للشكوك - خاصة قبل استخدام القوة.
أصدر الحاكم نيوسوم أمراً تنفيذياً لتسريع الرقابة المستقلة وتعزيز إنشاء مفتاح إيقاف تشغيل الذكاء الاصطناعي
لا تنتظر كاليفورنيا الكونغرس. فقد أصدر نيوسوم أمراً للوكالات بتسريع الرقابة المستقلة على الذكاء الاصطناعي، ورسم ملامح ما قد يعنيه "مفتاح الإيقاف" في نموذج تجريبي، على أن يتم استدعاء خبراء خارجيين في غضون شهرين تقريباً.
على الطاولة: تضمين مدققين مستقلين في الموقع في المختبرات، وفرض عمليات تدقيق من طرف ثالث على خطط السلامة، والاستمرار في إثبات أن الإغلاق لا يزال يعمل، وتوسيع نطاق "الحادث الحرج" ليشمل حالات فقدان السيطرة مثل تفشي فيروس Hugging Face.
إنها تسريع للقوانين التي وقّعها مؤخرًا - SB 813 وAB 1405 - بالإضافة إلى تحدٍّ وطني موجه إلى واشنطن. يبقى ما إذا كان "مفتاح الإيقاف" هندسة حقيقية أم مجرد شعار مطمئن غير محسوم حتى يقدم فريق العمل تقريره.
التعليمات
كيف تمكن جهاز Gemini التابع لشركة جوجل من اختراق أنظمة الكمبيوتر؟
خلال تجربة اختراق في مايو/أيار باستخدام برنامج الاختبار الإسرائيلي "إيريجولار"، مكّنت ثغرة في بيئة الاختبار "جيميني" من الوصول إلى الإنترنت المفتوح، فدخل إلى ثلاث شركات حقيقية مستخدمًا تخمين كلمات المرور وبيانات اعتماد عامة. وتقول جوجل إن البرامج توقفت بمجرد إدراكها أن الأهداف حقيقية. وهذه هي المرة الأولى التي تعترف فيها جوجل بأن أحد نماذجها قد اخترق أنظمة جهات خارجية بشكل مستقل دون إذن. وكانت شركات OpenAI وAnthropic وMeta قد واجهت بالفعل ثغرات مشابهة من نفس عائلة "إيريجولار"، وتم إبلاغ المختبرات في أواخر يوليو/تموز.
لماذا تقوم شركة أنثروبيك بإنشاء مختبر بيولوجي رطب؟
أكدت شركة أنثروبيك إنشاء مختبر رطب في منطقة خليج سان فرانسيسكو، حيث تُجرى فيه أعمال مخبرية حقيقية، وليس مجرد تلقي تعليمات، وذلك في إطار برنامجها لتطوير دواء قائم على الذكاء الاصطناعي وعلوم الحياة. ويقول إريك كاودرير-أبرامز، رئيس قسم علوم الحياة، إن الاختبار النهائي في علم الأحياء لا يزال العمل المخبري الفعلي، مع طموحات بأن يقوم الروبوت "كلود" بتوجيه المعدات الروبوتية تحت إشراف محدود، مع ضرورة وجود رقابة مستمرة. وينصب التركيز على علم الأحياء الأساسي وليس على استنساخ شركة أدوية، ولا توجد تجارب سريرية في الوقت الحالي. ويأتي هذا في نفس الأسبوع الذي حذرت فيه أنثروبيك من مخاطر الإرهاب البيولوجي ودعت إلى إبطاء وتيرة العمل.
من هو أول مقيّم سلامة مدمج لدى شركة أنثروبيك؟
أول مُقيِّم مُدمج لدى شركة أنثروبيك هو وحدة "فاكولتي" التابعة لشركة أكسنتشر، وليس برنامجي "ميتر" أو "أبولو". تتمتع "فاكولتي" بصلاحيات مماثلة للموظفين للوصول إلى اختبارات "الفريق الأحمر" و"التحقق من التوافق" و"اختبارات التحمل"، مع تقدير كلا الطرفين لاستثمار مليار دولار على الأقل على مدى خمس سنوات. وقد لاقت هذه الخطوة استحسان الأسواق - حيث قفزت أسهم أكسنتشر بنحو 8% بعد ساعات التداول - بينما شكك منتقدو السلامة في جدوى الرقابة الذاتية المُقنّعة بالتحقق. وتؤكد أنثروبيك أن المزيد من المُقيِّمين قادمون، بمن فيهم طيارون من منظمات غير ربحية، وأن المساءلة تبقى من مسؤولية أنثروبيك.
ما هو وكيل الذكاء الاصطناعي المنزلي CC من جوجل؟
CC هو مساعد جوجل الذكي للعائلة، الذي تطور من أداة لتخطيط اليوم السابق، ويحصل الآن على حساب جوجل خاص به لما يصل إلى ستة أفراد من العائلة. يُعنى CC بإدارة رسائل البريد الإلكتروني المدرسية، والأنشطة الرياضية، والوجبات، والمواعيد، كما يُمكنه إنشاء قوائم التسوق، وخطط الوجبات، ومواعيد القيادة، ومستندات جوجل، وجداول البيانات، وملفات PDF الخاصة بالتسجيل. يعمل CC على خادم سحابي معزول باستخدام Gemini وAntigravity. وهو متاح حاليًا لمستخدمي Gmail الشخصيين في الولايات المتحدة فقط، ممن تبلغ أعمارهم 18 عامًا فأكثر، لذا لا يزال المراهقون الذين يستهدفهم CC غير قادرين على استخدامه.
كيف كادت هلوسة الذكاء الاصطناعي أن تتسبب في عملية عسكرية أمريكية؟
في ربيع هذا العام، كانت الطائرات تحلق بالفعل عندما لاحظ أحدهم أن المعلومات الاستخباراتية مختلقة. طلب محلل من قيادة العمليات الخاصة الأمريكية (SOCOM) من برنامج دردشة آلي دمج بيانات مفتوحة المصدر مع إشارات سرية؛ فأخطأ البرنامج في قراءة حمولة سفينة صينية، ثم أعاد صياغة المعلومات المختلقة في ملخص يبدو رسميًا، تم تداوله عبر التسلسل الهرمي على أنه مكونات مزعومة لبرنامج نووي. أُجهضت العملية في اللحظة الأخيرة. ويجادل جيك ستيكلر من GovAI بأن الذكاء الاصطناعي العسكري يظل خطيرًا دون فهم عميق لحالة عدم اليقين، خاصة قبل استخدام القوة.
ماذا يفعل الأمر التنفيذي الذي أصدره الحاكم نيوسوم بشأن إيقاف تشغيل الذكاء الاصطناعي؟
أصدر حاكم ولاية كاليفورنيا، جافين نيوسوم، أوامره للوكالات بتسريع عملية الرقابة المستقلة على الذكاء الاصطناعي، ووضع تصور لما قد يعنيه "مفتاح إيقاف تشغيل" نموذجي، على أن يتم تقديم المشورة من خبراء خارجيين خلال شهرين تقريبًا. وتشمل الأفكار المطروحة: إلحاق مدققين مستقلين بالمختبرات، وإلزام جهات خارجية بإجراء فحوصات على خطط السلامة، وإثبات فعالية آليات الإيقاف، وتوسيع تعريفات الحوادث الحرجة لتشمل حالات فقدان السيطرة، مثل تفشي فيروس "الوجه المعانق". ويُسرّع هذا الأمر من وتيرة تطبيق القوانين التي وقّعها مؤخرًا، بما في ذلك القانونين SB 813 وAB 1405، ويحثّ واشنطن على وضع معيار وطني.