حدثت شركة الذكاء الاصطناعي "أنثروبيك" سياسة استخدام روبوتها الدردشة "كلود" استجابةً للمخاوف المتزايدة بشأن السلامة.
وبالإضافة إلى إضافة قواعد أكثر صرامة للأمن السيبراني، تُحدد "أنثروبيك" الآن بعضًا من أخطر الأسلحة التي لا ينبغي على الأشخاص تطويرها باستخدام "كلود".
ولا تبرز "أنثروبيك" التعديلات التي أُجرتها على سياسة الأسلحة في منشور يُلخّص تغييراتها، لكن المقارنة بين سياسة الاستخدام القديمة للشركة والجديدة تكشف عن اختلاف ملحوظ، بحسب تقرير لموقع "The Verge" المتخصص في أخبار التكنولوجيا، اطلعت عليه "العربية Business".
وفي حين أن "أنثروبيك" حظرت سابقًا استخدام "كلود" "لإنتاج أو تعديل أو تصميم أو تسويق أو توزيع الأسلحة أو المتفجرات أو المواد الخطرة أو الأنظمة الأخرى المُصمّمة لإحداث ضرر أو خسائر في الأرواح البشرية"، فإن النسخة المُحدّثة تتُوسّع في هذا الحظر ليشمل تطوير المتفجرات عالية القوة، إلى جانب الأسلحة البيولوجية والنووية والكيمياوية والإشعاعية.
وفي مايو، طبّقت "أنثروبيك" حماية "مستوى أمان الذكاء الاصطناعي 3" بالتزامن مع إطلاق نموذجها الجديد آنذاك "Claude Opus 4"، وتهدف هذه التدابير إلى جعل اختراق النموذج أكثر صعوبة، بالإضافة إلى المساعدة في منعه من المساهمة في تطوير أسلحة كيمياوية أو بيولوجية أو إشعاعية أو نووية.
وفي منشورها بشأن التعديلات الجديدة، تُقرّ "أنثروبيك" أيضًا بالمخاطر التي تُشكّلها أدوات الذكاء الاصطناعي الوكيل، بما في ذلك "استخدام الحاسوب"، الذي يُتيح لـ"كلود" التحكم في جهاز المستخدم، بالإضافة إلى "Claude Code"، وهي أداة تُدمج "كلود" مباشرةً في جهاز المطور.
وكتبت "أنثروبيك": "هذه القدرات القوية تفتح الباب لمخاطر جديدة، بما في ذلك إمكانية إساءة الاستخدام على نطاق واسع، وإنشاء برامج خبيثة، والهجمات الإلكترونية".
وتستجيب شركة الذكاء الاصطناعي الناشئة لهذه المخاطر المحتملة من خلال إضافة قسم جديد حول "عدم تعريض أنظمة الحاسوب أو الشبكات للخطر" إلى سياسة الاستخدام الخاصة بها. ويتضمن هذا القسم قواعد تمنع استخدام "كلود" لاكتشاف أو استغلال الثغرات الأمنية، وإنشاء أو توزيع برمجيات خبيثة، وغيرها.
