اپل قوانین اپ استور را سخت‌گیرانه‌تر کرد؛ مقابله با دیپ‌فیک‌های هوش مصنوعی و تصاویر جعلی غیراخلاقی
اپل قوانین اپ استور را سخت‌گیرانه‌تر کرد؛ مقابله با دیپ‌فیک‌های هوش مصنوعی و تصاویر جعلی غیراخلاقی
شنبه، ۲۵ مهر ۱۴۰۵
اپل با به‌روزرسانی دستورالعمل‌های اپ استور (App Store)، محدودیت‌های تازه‌ای برای اپلیکیشن‌های مبتنی بر هوش مصنوعی وضع کرده است. هدف اصلی این تغییرات، جلوگیری از تولید و انتشار تصاویر خصوصی جعلی افراد بدون رضایت آن‌ها و مقابله با برنامه‌هایی است که قابلیت‌های مخرب خود را از تیم بررسی اپل پنهان می‌کنند.
پیش از این، انتشار محتوای جنسی صریح در اپ استور ممنوع بود؛ اما قوانین جدید یک گام فراتر رفته و توسعه‌دهندگان را موظف می‌کند برای جلوگیری از تولید و انتشار تصاویر جعلی نامناسب با استفاده از هوش مصنوعی، اقدامات پیشگیرانه انجام دهند.
اپل هشدار داده است که اگر توسعه‌دهندگان نتوانند چنین محتوایی را شناسایی و حذف کنند، اپلیکیشن آن‌ها ممکن است از اپ استور کنار گذاشته شود.
قوانین جدید اپل چه تغییراتی دارند؟
۱. مقابله با دیپ‌فیک‌های تولیدشده با هوش مصنوعی
اپل بند 1.2 دستورالعمل‌های اپ استور را اصلاح کرده و به‌طور مشخص اپلیکیشن‌های تولید محتوای هوش مصنوعی را هدف قرار داده است.
بر اساس قوانین جدید، توسعه‌دهندگان مسئول جلوگیری از انتشار تصاویر خصوصی جعلی افراد بدون رضایت آن‌ها هستند و نمی‌توانند صرفاً به این دلیل که محتوا توسط کاربران تولید شده، از مسئولیت خود شانه خالی کنند.
۲. احتمال تأثیر قوانین بر اپلیکیشن Grok
یکی از اپلیکیشن‌هایی که ممکن است تحت تأثیر این مقررات قرار بگیرد، چت‌بات هوش مصنوعی Grok متعلق به شرکت xAI است.
در ماه‌های گذشته، کاربران نسبت به استفاده از Grok برای تولید تصاویر جعلی و نامناسب از افراد واقعی اعتراض کرده بودند.
طبق گزارش MacRumors، اپل پیش‌تر به xAI هشدار داده بود که اگر تولید چنین تصاویری ادامه پیدا کند، Grok را از اپ استور حذف خواهد کرد.
پس از این هشدار، xAI تدابیر محافظتی جدیدی اعمال کرد و اپل نیز نسخه به‌روزرسانی‌شده برنامه را تأیید کرد.
۳. ممنوعیت قابلیت‌های مخفی در اپلیکیشن‌ها
اپل بند جدیدی با شماره 2.5.19 به دستورالعمل‌های اپ استور اضافه کرده است.
این بند توسعه‌دهندگان را از فعال‌کردن قابلیت‌هایی که هنگام بررسی اولیه به اپل معرفی نشده‌اند، منع می‌کند.
برخی برنامه‌ها هنگام ارسال برای بررسی، عملکردی عادی و بی‌خطر دارند؛ اما پس از دریافت تأییدیه، امکانات متفاوت و آسیب‌زا را فعال می‌کنند.
این روش که با عنوان «Bait-and-Switch» شناخته می‌شود، اکنون به‌طور مشخص در قوانین اپل مورد توجه قرار گرفته است.
توسعه‌دهندگانی که از چنین روش‌هایی استفاده کنند، ممکن است با حذف اپلیکیشن و حتی لغو عضویت در برنامه توسعه‌دهندگان اپل مواجه شوند.
۴. گسترش محدودیت‌ها به فروشگاه‌های جایگزین
تغییر مهم دیگر به بخش پنجم دستورالعمل‌های اپل مربوط می‌شود.
اپل ممنوعیت اپلیکیشن‌هایی را که به بهره‌کشی از کودکان یا قاچاق انسان کمک می‌کنند، به روش‌های جایگزین توزیع اپلیکیشن نیز گسترش داده است.
به این ترتیب، دامنه این محدودیت‌ها دیگر فقط به فروشگاه رسمی اپ استور محدود نخواهد بود.
هشدار جدی اپل به توسعه‌دهندگان
اپل در اطلاعیه رسمی خود تأکید کرده است که در برابر نقض دستورالعمل‌های اپ استور، برای حذف برنامه‌های متخلف و قطع همکاری با توسعه‌دهندگان آن‌ها تردید نخواهد کرد.
این موضع نشان می‌دهد اپل قصد دارد نظارت بر اپلیکیشن‌های هوش مصنوعی را جدی‌تر دنبال کند؛ به‌خصوص برنامه‌هایی که امکان سوءاستفاده از تصاویر واقعی افراد را فراهم می‌کنند.
تأثیر این تصمیم بر کاربران آیفون
سخت‌گیرانه‌تر شدن قوانین اپ استور می‌تواند به کاهش انتشار محتوای جعلی آسیب‌زا و حفاظت بیشتر از حریم خصوصی کاربران کمک کند.
برای توسعه‌دهندگان نیز پیام روشنی دارد: اپلیکیشن‌های هوش مصنوعی باید از ابتدا سازوکارهای مشخصی برای جلوگیری از سوءاستفاده داشته باشند و تمام قابلیت‌های خود را هنگام بررسی به اپل اعلام کنند.
البته این تغییرات به معنای ممنوعیت تمام برنامه‌های تولید تصویر با هوش مصنوعی نیست؛ تمرکز مقررات جدید بر جلوگیری از سوءاستفاده، انتشار محتوای بدون رضایت افراد و پنهان‌کردن قابلیت‌های مخرب است.