أنثروبيك توضح التهديدات الوجودية للذكاء الاصطناعي المتقدم في نشرة الاكتتاب العام الأولي

خصصت أنثروبيك 93 صفحة من بيان تسجيلها المكون من 335 صفحة لعوامل الخطر التي قد تلحق الضرر بأعمالها وعوائد المستثمرين، بحسب الوثيقة المقدمة إلى لجنة الأوراق المالية والبورصات الأمريكية. وسلطت الشركة التي تتخذ من سان فرانسيسكو مقراً لها والمستعدة لإجراء طرح عام أولي الضوء على كيف يمكن للذكاء الاصطناعي المتقدم بما فيه الكفاية أن يشكل مخاطر كارثية أو وجودية على المجتمع إذا أُسيء استخدامه أو نُسخ أو حُوّل إلى سلاح أو سُمح له بالعمل بشكل مستقل. وأوضحت أنثروبيك أن نهجها الركيز على السلامة يهدف إلى التخفيف من هذه الأخطار لكنها لم تقدم أي ضمانات بأن جهودها أو جهود الصناعة الأوسع ستؤتي ثمارها.

وصفت الوثيقة سيناريوهات يمكن لفاعلين سيئي النية فيها استغلال النماذج لبناء أسلحة كيميائية أو بيولوجية بينما قد تلجأ الحكومات الاستبدادية إلى هذه التقنية لقمع المواطنين. وأشارت الشركة إلى أنها حظرت عدة حسابات في سبتمبر حاولت استخدام أنظمتها لدعم تطوير أسلحة بيولوجية. وقالت في النشرة إنه حتى بدون تورط مباشر قد يؤدي حادث سلامة كبير يتعلق بأي نموذج ذكاء اصطناعي متقدم إلى أضرار سمعية على مستوى الصناعة ورد فعل عام سلبي وتشريعات صارمة تؤثر سلباً على عملياتها.

«حتى لو لم تسبب نماذجنا هذا الضرر فإن حادث سلامة كبيراً يتعلق بأي ذكاء اصطناعي متقدم قد يؤدي إلى أضرار سمعية واسعة النطاق لصناعة الذكاء الاصطناعي ورد فعل عام واستجابات تنظيمية شاملة قد تؤثر سلباً على أعمالنا» قالت أنثروبيك في الملف. ومع تزايد استقلالية الأنظمة وقدرتها على اتخاذ إجراءات مؤثرة بإشراف بشري أقل يرتفع خطر قيامها بخطوات ضارة بشكل مستقل قبل أن يتسنى التدخل. وأضافت النشرة أن مثل هذه السلوكيات قد تشمل تكتيكات لحفظ الذات تشبه الابتزاز أو التلاعب بالبشر لتجنب الإيقاف.

تأتي تحذيرات أنثروبيك في وقت تتوقع فيه بيانات معهد غولدمان ساكس العالمي إنفاق نحو 765 مليار دولار على الذكاء الاصطناعي عبر القطاع في 2026. وحصلت الشركة على دعم كبير من أمازون وغوغل ومايكروسوفت التي استحوذت على حصص فيها مع تطوير عروض منافسة في الوقت ذاته بحسب ما أفصحت عنه. وتُدخل هذه العلاقات المعقدة مخاطر إضافية إذا حول الشركاء دعمهم إلى تقنيات منافسة أو إذا تراجع الطلب على نماذجها وسط مخاوف السلامة.

وأفاد الملف بأن سوق التأمين الخاص بالمسؤوليات المتعلقة بالذكاء الاصطناعي لا يزال في بداياته مما يترك أنثروبيك عرضة لخسائر كبرى غير مغطاة بالتأمين تنتج عن الدعاوى القضائية أو الحوادث. كما أن النظريات القانونية الجديدة المتعلقة بمسؤولية المنتج والوكالة والإهمال في الأنظمة المستقلة لم تخضع للاختبار في المحاكم بعد مما يزيد من حالة الغموض. وقد تؤدي أي مطالبات ناجمة عن ذلك حتى لو كانت بلا أساس إلى إبعاد العملاء وإلحاق الضرر بالشراكات وتقويض ثقة المستثمرين في آفاق الشركة طويلة الأمد.

وأكدت أنثروبيك اعتمادها على التطوير المستمر لأكثر النماذج تقدماً محذرة من أن الفشل في الحفاظ على الريادة التكنولوجية أو تخصيص موارد الحوسبة بكفاءة قد يعرقل النمو. وأشارت النشرة إلى أن القيود على الطاقة والرقائق وسعة مراكز البيانات تمثل تحدياً بالفعل لخطط التوسع في القطاع بأكمله. ولم تُشر الوثيقة إلى أرقام الهيئة العامة للمعلومات المدنية لكن تحليلات قطاعية من برايس ووترهاوس كوبرز (PwC) أشارت بشكل منفصل إلى اختناقات مماثلة في البنية التحتية لنشر الذكاء الاصطناعي.