بقلم: أندرو تارانتولا

المصدر: إنجادجيت

* مصدر الصورة: تم إنشاؤه بواسطة أداة Unbounded AI *

Dall-E و Stable Diffusion هما مجرد البداية. تكتسب روبوتات الدردشة على الإنترنت القدرة على تحرير الصور وإنشائها ، مع قيادة شركات مثل Shutterstock و Adobe ، حيث تكتسب الأنظمة التي تم إنشاؤها بواسطة الذكاء الاصطناعي شهرة وتعمل الشركات على تمييز منتجاتها عن منتجات منافسيها. لكن قدرات الذكاء الاصطناعي الجديدة هذه تطرح أيضًا مشكلات مألوفة ، مثل العبث غير المصرح به أو الاختلاس التام للأعمال والصور الموجودة على الإنترنت. يمكن أن تساعد تقنية العلامات المائية في تقليل المشكلة الأخيرة ، بينما تساعدنا تقنية "PhotoGuard" الجديدة التي طورها معهد ماساتشوستس للتكنولوجيا CSAIL في منع المشكلة الأولى.

يُذكر أن برنامج PhotoGuard يعمل عن طريق تغيير بعض وحدات البكسل في الصورة ، وبالتالي تدمير قدرة الذكاء الاصطناعي على فهم محتوى الصورة. هذه "الاضطرابات" ، كما يسميها فريق البحث ، غير مرئية للعين البشرية ولكنها سهلة القراءة للآلات. تستهدف طريقة هجوم "التشفير" التي تقدم هذه القطع الأثرية التمثيل الأساسي للنموذج الخوارزمي للصورة الهدف - الرياضيات المعقدة التي تصف موضع ولون كل بكسل في الصورة - تمنع بشكل أساسي الذكاء الاصطناعي من فهم ما هو عليه يبحث في. (ملاحظة: * تشير القطع الأثرية إلى أشكال مختلفة من الصور التي لا توجد في الكائن الممسوح ضوئيًا ولكنها تظهر في الصورة. *)

بالإضافة إلى ذلك ، فإن أساليب هجوم "الانتشار" الأكثر تقدمًا والمكثفة من الناحية الحسابية تخفي الصورة كصورة أخرى لعيون الذكاء الاصطناعي. سيحدد الصورة المستهدفة ويحسن الاضطرابات في صورتها لتكون مشابهة للصورة المستهدفة. يتم تطبيق أي تعديلات يحاول الذكاء الاصطناعي إجراؤها على هذه الصور "المناعية" على الصور "المستهدفة" الزائفة ، مما ينتج عنه صور لا تبدو حقيقية.

قال هادي سلمان ، طالب دكتوراه في معهد ماساتشوستس للتكنولوجيا والمؤلف الأول للورقة ، لموقع Engadget: "هجوم التشفير يجعل النموذج يعتقد أن الصورة المدخلة (التي سيتم تحريرها) هي صورة أخرى (مثل صورة ذات تدرج رمادي)". "يفرض هجوم Diffusion" نموذج Diffusion "على تعديل بعض الصور المستهدفة ، والتي يمكن أن تكون أيضًا بعض الصور الرمادية أو العشوائية." الصور المحمية للهندسة العكسية.

قال سلمان في بيان: "يمكن أن يكون النهج التعاوني الذي يشمل مطوري النماذج ومنصات التواصل الاجتماعي وصانعي السياسات دفاعًا فعالًا ضد التلاعب غير المصرح به بالصور. معالجة هذه القضية الملحة أمر بالغ الأهمية اليوم". "بينما أنا متحمس لأن أكون قادرًا على المساهمة في هذا الحل ، لا يزال هناك الكثير من العمل الذي يتعين القيام به لجعل هذه الحماية عملية. تحتاج الشركات التي تطور هذه النماذج إلى الاستثمار في استهداف التهديدات التي قد تشكلها أدوات الذكاء الاصطناعي هذه للهندسة المناعية القوية . "