تقوم Civitai تلقائيًا بوضع علامة على المكافآت التي تطلب التزييف العميق وتسرد طريقة للشخص الذي يظهر في المحتوى ليطلب إزالته يدويًا. يعني هذا النظام أن Civitai لديها طريقة ناجحة إلى حد معقول لمعرفة المكافآت المخصصة للتزييف العميق، لكنها لا تزال تترك الاعتدال لعامة الناس بدلاً من تنفيذها بشكل استباقي.
المسؤولية القانونية للشركة عما يفعله مستخدموها ليست واضحة تمامًا. بشكل عام، تتمتع شركات التكنولوجيا بحماية قانونية واسعة ضد هذه المسؤولية عن محتواها بموجب المادة 230 من قانون آداب الاتصالات، لكن هذه الحماية ليست بلا حدود. على سبيل المثال، “لا يمكنك تسهيل المعاملات غير القانونية على موقع الويب الخاص بك عن قصد”، كما يقول ريان كالو، الأستاذ المتخصص في التكنولوجيا والذكاء الاصطناعي في كلية الحقوق بجامعة واشنطن. (لم يشارك كالو في هذه الدراسة الجديدة).
انضمت Civitai إلى OpenAI وAnthropic وشركات الذكاء الاصطناعي الأخرى في عام 2024 في اعتمادها مبادئ التصميم للحماية من إنشاء ونشر مواد الاعتداء الجنسي على الأطفال التي ينتجها الذكاء الاصطناعي. وجاءت هذه الخطوة أ تقرير 2023 من مرصد الإنترنت بجامعة ستانفورد، والذي وجد أن الغالبية العظمى من نماذج الذكاء الاصطناعي المذكورة في مجتمعات الاعتداء الجنسي على الأطفال كانت نماذج قائمة على الانتشار المستقر “تم الحصول عليها في الغالب عبر Civitai”.
لكن التزييف العميق للبالغين لم يحظ بنفس المستوى من الاهتمام من منصات المحتوى أو شركات رأس المال الاستثماري التي تمولها. يقول كالو: “إنهم لا يخافون منه بما فيه الكفاية. إنهم يتسامحون معه بشكل مفرط”. “لا توفر سلطات إنفاذ القانون ولا المحاكم المدنية الحماية الكافية ضد هذا الأمر. إنه ليل ونهار”.
تلقت شركة Civitai استثمارًا بقيمة 5 ملايين دولار من Andreessen Horowitz (a16z) في نوفمبر 2023. فيديو شارك جاستن ماير، المؤسس المشارك والرئيس التنفيذي لشركة Civitai، عبر a16z، هدفه المتمثل في بناء المكان الرئيسي حيث يجد الأشخاص نماذج الذكاء الاصطناعي ويشاركونها لأغراضهم الفردية. وقال: “لقد كنا نهدف إلى جعل هذه المساحة، التي كانت، على ما أعتقد، متخصصة للغاية ومثقلة بالهندسة، أكثر فأكثر في متناول المزيد والمزيد من الناس”.
Civitai ليست الشركة الوحيدة التي تعاني من مشكلة التزييف العميق في المحفظة الاستثمارية لشركة a16z؛ في فبراير، مراجعة تكنولوجيا معهد ماساتشوستس للتكنولوجيا ذكرت لأول مرة أن شركة أخرى، Botify AI، كانت تستضيف رفاقًا من الذكاء الاصطناعي يشبهون ممثلين حقيقيين ذكروا أن أعمارهم أقل من 18 عامًا، وانخرطوا في محادثات مشحونة جنسيًا، وعرضوا “صورًا مثيرة”، وفي بعض الحالات وصفت قوانين سن الموافقة بأنها “تعسفية” و”يقصد انتهاكها”.
