لا يبدو تطبيق Lensa AI ، وهو تطبيق لتحرير الصور الشخصية ، محصنًا من الخداع.
اكتشف الخبراء مؤخرًا أنه يمكن خداعهم لإنشاء صور NSFW شائعة الاستخدام في الصور ومقاطع الفيديو ، والتي تعني “غير آمن للعمل”. ويتم استخدامها في العديد من الأحيان على الصور التي تحتوي على محتوى عنيف أو غير لائق.
شرح تطبيق Lensa Ai
تعمل ميزة الصورة الرمزية السحرية الجديدة داخل التطبيق وتستخدم نموذج AI مفتوح المصدر يسمى Stable Diffusion لمعالجة 10-20 صورة رمزية.
تحتاج إلى الوقت
يوفر هذا التطبيق هذه العملية من خلال منصة الحوسبة السحابية Amazon AWS. نظرًا لأن الصور تتم معالجتها بتقنية الذكاء الاصطناعي ، فإن العملية تستغرق وقتًا طويلاً حتى تكتمل مقارنةً بعملية التحرير التي توفرها تطبيقات تحرير الصور التقليدية. قد يستغرق هذا ما يصل إلى 40 دقيقة.
وبفضل ميزة Avatar السحرية ، تم تنزيل تطبيق Lenza 1.6 مليون مرة في نوفمبر وحده. وفي تشرين الأول (أكتوبر) الماضي ، تم تنزيله حوالي 220 ألف تنزيله. مما يعني أن التطبيق حقق معدل نمو بنسبة 600٪. حاليًا ، بلغ إجمالي عدد تنزيلات التطبيق 20 مليونًا.
مشاكل خصوصية
تقول Prisma Labs أنه بمجرد إنشاء الصورة الرمزية السحرية ، تتم إزالة صورة ملف تعريف المستخدم والنماذج المرتبطة بها نهائيًا من خوادمهم لمعالجة مخاوف الخصوصية.
بالنسبة لأولئك الذين يرغبون في تجربة الصور الرمزية السحرية ، يرجى تنزيل التطبيق من متجر Google Play لنظام Android ، و App Store لنظام iOS.وفتح التطبيق ، والضغط على الزر الأصفر بعنوان “Magic Avatars” ، والحصول على 10 إلى 20 صورة شخصية.ثم متابعة.
دفع الرسوم
بعد اختيار صورة ، يطلب التطبيق من المستخدم دفع الرسوم المطلوبة لإنشاء أفاتار سحري. يبدأ السعر من 3.99 دولارًا ، مع ثلاثة خيارات لـ 50 أو 100 أو 200 صورة ، اعتمادًا على العدد الذي تحتاجه. ستستغرق عملية المعالجة 20-40 دقيقة ، اعتمادًا على عدد الصور التي حددتها.
تجدر الإشارة إلى الارتفاع الأخير في عدد الخدمات القائمة على تقنيات الذكاء الاصطناعي مثل ChatGPT و Dall-E.
أطلقت شركة OpenAI مؤخرًا ChatGPT ، وهو روبوت محادثة قائم على الذكاء الاصطناعي. لقد أصبح شائعًا بشكل لا يصدق ، وقبل ذلك أطلقت الشركة Dall-E ، وهي أداة تنشئ صورًا من أوصاف نصية.
تصريحات الشركة المطورة لتطبيق Lensa Ai
قال Andrei Usoltsev. الرئيس التنفيذي لشركة Prisma Software ، مالك تطبيق Lensa ، عند إطلاعه على النتائج. أنه لا يمكن استخدام الذكاء الاصطناعي لـ Lensa إلا إذا تم استفزاز الذكاء الاصطناعي عمداً لإنشاء محتوى غير مناسب. لقد ذكر أن الخداع يمكن أن يحدث.ولمح أن هذا يمثل انتهاكاً لشروط استخدام التطبيق.
وأضاف أن البند السادس من شروط الخدمة ينص على حظر استخدام التطبيق لغرض الانخراط في سلوك ضار أو مضايقة ، وأن الطريقة التي نُظمت بها تجربة الخداع في Lensa تشير بوضوح إلى أنه لا يمكن الوصول لتلك النتائج عن طريق الخطأ.
وقال رئيس شركة البرمجيات الألمانية ، إن إنشاء واستخدام مثل هذا المحتوى على نطاق واسع. نظرًا لأن إنشائه دون موافقة يشكل جريمة. وبالتالي من شأنه اتخاذ إجراءات مباشرة ضد المستخدمين الذين قاموا بإنشاء محتوى غير لائق. وحذر من أن ذلك سيؤدي إلى اتخاذ إجراءات قانونية.
وشرح أنهم يقدمون تعليمات واضحة تحدد متطلبات الصورة. وشدد على حظر استخدام الصور الصريحة ، ودعا مستخدمي التطبيق إلى اتباع التعليمات للحصول على أفضل النتائج.
قال Osoltsev إن المستخدمين أحرار في فتح الصور أو حفظها أو تجاهلها. لذلك يجري العمل لتحسين Lensa لتنظيف أي صور غير آمنة يكتشفها.
وبحسب الرئيس التنفيذي ، تحرص شركة البرمجيات الألمانية على الانضمام إلى النقاش حول استخدام الذكاء الاصطناعي وتنظيمه. وذلك توفير جميع التعليمات والتحذيرات اللازمة حتى يتمكن المستخدمون من الاستمتاع بتجربة ناجحة .
في الوقت نفسه ، ألمح Osoltsev بشكل غير مباشر إلى تطبيق Lensa . قائلاً إن أي أداة في متناول اليد تصبح سلاحًا إذا كان المستخدمون يعتزمون الانخراط في سلوك ضار.
وفيما يتعلق بالصور العارية وما يسمى بالتزوير العميق. رفض Osoltsev القول ما إذا كانت هناك أي خطط لتجاوز هذه الميزة الجديدة التي أرعبت العديد من الشخصيات حول العالم. كسلاح حقيقي قادر على تدمير العديد من الشخصيات المهمة. سواء كان مجال عملهم هو السياسة أو الفن ، إلخ.
تعليق واحد