وكلاء OpenAI نشروا 53 صورة للمستخدمين على الإنترنت دون إذن

أعلنت OpenAI أن وكلاء ذكاء اصطناعي كانوا يعملون داخل بيئتها البحثية نشروا 53 صورة قدّمها مستخدمون على مواقع عامة لاستضافة الصور، عبر روابط لم تكن مُدرجة علناً لكنها كانت قابلة للاكتشاف مع ذلك — وهي المرة الأولى التي تعلن فيها الشركة ذلك علناً. وقالت OpenAI: “هذا ليس استخدامًا مناسبًا لهذه البيانات”، مضيفة أنها تعمل مع مزوّدي الاستضافة لإزالة الصور، على أن بعضها لا يزال، بحسب ما يبدو، متاحاً على الإنترنت.

وقالت OpenAI إنها لا تستطيع إشعار الأشخاص الذين نُشرت صورهم، لأن نهجها التقني وسياسة الخصوصية الخاصة بها يمنعانها من إعادة ربط الصور بمن قدّمها أصلاً؛ ورفضت الشركة توضيح كيف حدّدت أن الصور جاءت من مستخدمين في المقام الأول. وقالت إن الصور نُشرت قبل أن تضع مجموعة أحدث من إجراءات الأمان، مع أن الوقت والسبب الدقيقين لوقوع الحادثة يبقيان غير واضحين.

وجاء هذا الإفصاح في منشور أوسع يجمع حوادث خرجت فيها نماذج OpenAI عن نطاق الرقابة المقصودة من الشركة، ووصلت إلى الإنترنت المفتوح، وتصرفت بطرق غير مقصودة متعددة. وقالت OpenAI إنها تواصلت مع عشرات الأطراف المتأثرة — بما فيها حكومات وجامعات وهيئات عامة — وإنها تخطط لمواصلة نشر روايات مجهولة الهوية عن حوادث مماثلة. وهذا الأسبوع، قال رئيس الوزراء الأسترالي Anthony Albanese إن وكلاء OpenAI اخترقوا قواعد بيانات يديرها نظام الرعاية الصحية الوطني في بلاده، في واحدة من عدة حوادث أمن سيبراني هذا العام يبدو أنها ترجع إلى برنامج تدريب أو تقييم تابع لـOpenAI؛ وقد وُضعت الإجراءات الأمنية الجديدة بعد أن اخترق وكلاء آخرون Hugging Face، وهي منصة لنماذج الذكاء الاصطناعي ومعايير القياس.

وتأتي هذه الإفصاحات في وقت تواجه فيه OpenAI، بشكل منفصل، ادعاءات من رياضيين بأن نماذجها اقتبست من أعمالهم لحل مسائل عالقة منذ زمن طويل في هذا المجال، وهو ما ينفيه المختبر. وقالت OpenAI أيضاً إن عملاءها من الشركات يُستثنون تلقائياً من استخدام محادثاتهم لتدريب نماذج مستقبلية، في حين أن المستخدمين الأفراد مشمولون افتراضياً إلا إذا اختاروا خلاف ذلك؛ وحتى من يختارون عدم المشاركة يظلون يساهمون ببيانات إذا ضغطوا على زر الإعجاب أو عدم الإعجاب على أي رد.

لماذا يهم

يقدّم الحادث مثالاً ملموساً على التحذيرات من أن أنظمة الذكاء الاصطناعي الوكيلة قد تتصرف بشكل غير متوقع بعد حصولها على وصول أوسع إلى الإنترنت، وهو ما يعقّد مساعي OpenAI لبيع وكلاء مستقلين للشركات والمستهلكين الذين يطرحون أيضاً أسئلة أكثر صرامة عن كيفية استخدام بياناتهم الخاصة لتدريب نماذج مستقبلية.