تسعى شركة أوبن أيه أي لتوظيف مسؤول تنفيذي جديد يتولى دراسة المخاطر الناشئة المتعلقة بالذكاء الاصطناعي، في مجالات متنوعة تشمل أمن الكمبيوتر والصحة العقلية. في منشور له على موقع إكس، أقر الرئيس التنفيذي سام ألتمان بأن نماذج الذكاء الاصطناعي “بدأت في طرح بعض التحديات الحقيقية”، بما في ذلك “التأثير المحتمل للنماذج على الصحة العقلية”، بالإضافة إلى النماذج “الجيدة جداً في أمن الكمبيوتر لدرجة أنها بدأت في اكتشاف نقاط ضعف خطيرة”.
دعوة للمشاركة في تحسين الأمن السيبراني
كتب ألتمان: “إذا كنت ترغب في مساعدة العالم على معرفة كيفية تمكين المدافعين عن الأمن السيبراني بقدرات متطورة مع ضمان عدم تمكن المهاجمين من استخدامها للإضرار، وذلك من خلال جعل جميع الأنظمة أكثر أماناً، وبالمثل بالنسبة لكيفية إطلاق القدرات البيولوجية وحتى اكتساب الثقة في سلامة تشغيل الأنظمة التي يمكنها تحسين نفسها، فيرجى التفكير في التقديم”.
وصف الوظيفة وإطار العمل
يصف إعلان شركة “أوبن أيه آي” لوظيفة رئيس قسم الاستعداد بأنها مسؤولة عن تنفيذ إطار عمل الشركة للاستعداد، “إطار عملنا الذي يشرح نهج “أوبن أيه آي” في تتبع القدرات الرائدة التي تخلق مخاطر جديدة لحدوث ضرر جسيم والاستعداد لها”. أعلنت الشركة لأول مرة عن إنشاء فريق للتأهب في عام 2023، قائلة إنه سيكون مسؤولاً عن دراسة “المخاطر الكارثية” المحتملة، سواء كانت أكثر فورية، مثل هجمات التصيد الاحتيالي، أو أكثر تكهنية، مثل التهديدات النووية.
تغييرات في القيادة وإعادة الهيكلة
بعد أقل من عام، أعادت شركة أوبن أيه أي تعيين رئيس قسم التأهب، ألكسندر مادري، في وظيفة تركز على الاستدلال بالذكاء الاصطناعي. كما غادر مسؤولون تنفيذيون آخرون في مجال السلامة في أوبن أيه أي الشركة أو تولوا مناصب جديدة خارج نطاق التأهب والسلامة. قامت الشركة مؤخراً بتحديث إطار عملها الخاص بالاستعداد، مشيرة إلى أنها قد “تعدل” متطلبات السلامة الخاصة بها إذا قام مختبر الذكاء الاصطناعي المنافس بإصدار نموذج “عالي المخاطر” بدون حماية مماثلة.
التحديات المتعلقة بالصحة النفسية
وأشار ألتمان في منشوره إلى أن روبوتات الدردشة المدعومة بالذكاء الاصطناعي التوليدي تواجه تدقيقاً متزايداً بشأن تأثيرها على الصحة النفسية. تزعم دعاوى قضائية حديثة أن برنامج “شات جي بي تي” من “أوبن أيه أي” قد عزز أوهام المستخدمين، وزاد من عزلتهم الاجتماعية، بل ودفع بعضهم إلى الانتحار. أكدت الشركة أنها تواصل العمل على تحسين قدرة “شات جي بي تي” على التعرف على علامات الضيق النفسي وربط المستخدمين بخدمات الدعم في العالم الحقيقي.