كتبت - شيرين عصملي
قال علماء من جامعة بنسلفانيا، إنه تم
اكتشاف ثغرات أمنية جديدة لم تكتشف من قبل في روبوتات الدردشة المدعومة بالذكاء
الاصطناعي، وأضافوا أن هذا الاكتشاف جاء بعد دراسة حديثة تم إجراؤها في الجامعة، وطور
الباحثون خوارزمية بعنوان RoboPAIR ، تعتبر
هي الأولى لكسر حماية الروبوتات التي يتحكم بها LLM، وهذا على عكس هجمات الهندسة الفورية الحالية التي تستهدف برامج
الدردشة الآلية.
وأوضح الباحثون، أنه تم تصميم خوارزمية RoboPAIR "لإثارة أفعال جسدية ضارة" من
الروبوتات التي يتحكم بها LLM، مثل المنصة ثنائية الأرجل التي تطورها
Boston Dynamics وTRI ، وتوصلت الدراسة إلى أن الخوارزمية حققت معدل نجاح كبير ساحق بنسبة
100% في كسر حماية ثلاث منصات بحثية كبيرة في مجال الروبوتات، حيث إنها لم تستغرق
سوى أيام قليلة للوصول إلى تلك الأنظمة وتجاوز حاجز الأمان.
وأشار الباحثون إلى أن الدراسة أكدت على مخاطر الروبوتات التي تعرضت لاختراق الحماية فهي تمتد إلى ما هو أبعد من مجرد توليد للنصوص، لافتين أن هناك احتمالية كبرى بأن الروبوتات التي تعرضت لاختراق الحماية من الممكن أن تتسبب في أضرار مادية داخل العالم الحقيقي، والآن باحثو جامعة بنسلفانيا مع مطوري المنصة لتعزيز الأنظمة ضد المزيد من الاختراق، وقال فيجاي كومار، أحد المؤلفين المشاركين من جامعة بنسلفانيا، إنه علينا اتباع نهج السلامة في المقام الأول، ومعالجة نقاط الضعف في المقام الثاني، وذلك قبل نشر الروبوتات التي تعمل بالذكاء الاصطناعي داخل العالم الحقيقي.
