اپل و گوگل تحت فشار برای حذف اپلیکیشنهای هوش مصنوعی تولید تصاویر برهنه جعلی.
اپل و گوگل تحت فشار برای حذف اپلیکیشنهای هوش مصنوعی تولید تصاویر برهنه جعلی.
جمعه، ۲۶ تیر ۱۴۰۵
دادستان شهر سانفرانسیسکو با ارسال اخطارهای قانونی (Cease and Desist) به اپل و گوگل، از این دو شرکت خواسته است ۱۳ اپلیکیشن مبتنی بر هوش مصنوعی را که امکان تولید تصاویر برهنه جعلی از افراد بدون رضایت آنها را فراهم میکنند، از فروشگاههای نرمافزاری خود حذف کنند.
این اپلیکیشنها در ظاهر بهعنوان ابزار تعویض چهره (Face Swap) معرفی میشوند، اما در عمل میتوانند با استفاده از هوش مصنوعی، لباس افراد را از روی تصاویر حذف کرده و تصاویر جعلی و غیراخلاقی تولید کنند؛ موضوعی که به گفته مقامات، میتواند خسارتهای جدی روحی، اجتماعی و اعتباری برای قربانیان به همراه داشته باشد.
طبق این اخطارها:
۸ اپلیکیشن در App Store اپل
۵ اپلیکیشن در Google Play
بهعنوان نمونههای ناقض قوانین معرفی شدهاند. دادستان سانفرانسیسکو معتقد است اپل و گوگل با ادامه میزبانی این برنامهها و دریافت سهم از پرداختهای درونبرنامهای، عملاً در سود حاصل از فعالیت آنها شریک هستند.
گوگل در واکنش اعلام کرده است که صدها اپلیکیشن مشابه را به دلیل نقض قوانین فروشگاه حذف کرده و جستجوی برخی واژههای مرتبط را نیز محدود کرده است. اپل تا زمان انتشار گزارش، پاسخی رسمی ارائه نکرده است.
این اقدام در ادامه فشارهای فزاینده بر شرکتهای فناوری برای مقابله با سوءاستفاده از هوش مصنوعی در تولید دیپفیکهای غیراخلاقی و بدون رضایت افراد انجام میشود؛ موضوعی که در ماههای اخیر به یکی از چالشهای مهم صنعت هوش مصنوعی تبدیل شده است.