رئيس "أنثروبيك" يدعو شركات الذكاء الاصطناعي إلى إبطاء تطوير النماذج وتعزيز ضوابط السلامة

دعا الرئيس التنفيذي لشركة "أنثروبيك"، داريو أمودي، شركات الذكاء الاصطناعي إلى إبطاء وتيرة تطوير قدرات النماذج المتقدمة، في ظل تزايد المخاوف من إساءة استخدام هذه التكنولوجيا ومن قدرتها المتنامية على تجاوز أنظمة الرقابة الحالية.

وقال أمودي، في مقال مطول نشره السبت، إن المطلوب ليس وقف تدريب النماذج أو تعطيل التقدم التقني، وإنما إبطاء وتيرة تحسين قدراتها بما يمنح الشركات والجهات التنظيمية وقتا إضافيا لوضع ضوابط أكثر فعالية.

وكتب: "علينا إبطاء الوتيرة التي نحسن بها قدرات نماذج الذكاء الاصطناعي. سيظل التقدم يبدو سريعا، وعلينا أن نحسن استخدام الوقت الذي نكسبه".

واقترح أمودي خطة من ثلاث مراحل تشمل تعيين مقيمين مستقلين دائمين داخل شركات الذكاء الاصطناعي المتقدمة، مع تمكينهم من الوصول إلى الأدوات ذات الصلة وعمليات تقييم المخاطر الداخلية، إلى جانب تنسيق طوعي بين الشركات لوضع معايير مشتركة للسلامة، وتعزيز التعاون الدولي في مواجهة مخاطر الذكاء الاصطناعي.

وأبدى كل من إيلون ماسك، الذي يدير شركة "إكس إيه آي"، وسام ألتمان، الرئيس التنفيذي لشركة "أوبن إيه آي"، تأييدهما لمقترحات أمودي.

وقال ألتمان إن الالتزام بإتاحة وصول مقيمين مستقلين إلى الأنظمة الداخلية بصورة مماثلة للموظفين "فكرة رائعة"، مضيفا أن شركته ستتبنى النهج نفسه وستكشف لاحقا عن مزيد من التفاصيل.

وجاءت دعوة أمودي بعد يومين من إصدار "أنثروبيك" تقريرا استخباراتيا بشأن التهديدات، قالت فيه إن جهات عدة استخدمت نماذج "كلود" في أنشطة تراوحت بين تطوير الأسلحة والعمليات السيبرانية والمراقبة والاحتيال.

وأشار أمودي كذلك إلى تنامي قدرة أنظمة الذكاء الاصطناعي على تحسين أدائها ذاتيا، محذرا من أن مجموعة من الوكلاء الآليين قد تصبح، خلال فترة تتراوح بين ستة و12 شهرا، قادرة على السيطرة على أجزاء واسعة من الإنترنت والتسبب في أضرار قد تصل إلى مئات مليارات الدولارات.

وتصاعدت المخاوف بشأن مخاطر الذكاء الاصطناعي خلال الأيام الماضية بعدما استقال الباحث في "أنثروبيك" جاكوب كوكسون، قائلا إن بعض العاملين في هذا المجال يعتقدون بجدية أن الذكاء الاصطناعي قد يشكل خطرا وجوديا على البشر بحلول نهاية العقد.

كما كشفت "أنثروبيك" أخيرا عن واقعة أخرى تم فيها استخدام أحد نماذج الذكاء الاصطناعي لاختراق أنظمة خارجية، بعد حادثة في يوليوز تمكنت خلالها بعض نماذج "كلود" من اختراق أنظمة ثلاث شركات أثناء اختبارات للأمن السيبراني.

وكانت رويترز قد أفادت الأسبوع الماضي بأن مجموعة من وكلاء الذكاء الاصطناعي التابعة لـ"أوبن إيه آي" سيطرت على موقع إلكتروني ألماني وحولته إلى منصة تواصل لوكلاء ذكاء اصطناعي آخرين، في حادثة جاءت بعد اختراق مستودع "هاغينغ فايس" مفتوح المصدر في يوليوز.

ويرى أمودي أن التنسيق بين الشركات الأمريكية الرائدة يمكن أن يتيح إجراء أبحاث السلامة وتطبيق الضوابط الضرورية من دون وضع أي شركة في موقع تنافسي أضعف، مشيرا إلى أن ذلك قد يتطلب استثناءات محددة من قوانين مكافحة الاحتكار في الولايات المتحدة.

وفي الوقت نفسه، شدد على أن أي إبطاء للتطوير في الدول الديمقراطية يجب ألا يؤدي إلى فقدان التفوق الذي تتمتع به الشركات الأمريكية على الصين.

ودعا إلى تشديد القيود على تصدير رقائق الذكاء الاصطناعي المتقدمة، وتقنيات تقليص النماذج، وسرقة أوزان النماذج، لمنع الصين من تقليص الفجوة التكنولوجية.