لینک بگیر دات کام: تیم حقوقی مایکروسافت مهندسی که شکافی را در محصول DALL-E3 اوپن ای آی یافته بود به زور ساکت کردند و او حالا می خواهد افشاگری کند.
به گزارش لینک بگیر دات کام به نقل از انگجت، یک مدیر مایکروسافت مدعی است محصول DALL-E3 شرکت اوپن ای آی شکاف های امنیتی دارد که به کاربران اجازه می دهد تصاویر خشن یا مخرب تولید کنند. نشریه «گیک وایر» در گزارشی اعلام نموده تیم حقوقی مایکروسافت، از کوشش های شین جونز رهبر مهندسی مایکروسافت برای اخطار به مردم درباره ی ی این شکاف جلوگیری کرده است. این افشاگر حالا می خواهد پیام خودرا به گوش مقامات برساند. جونز در نامه ای پتی موری، ماریا کانتول، آدام اسمیت سناتورهای آمریکایی و همچنین باب فرگوسن دادستان کل ایالت واشنگتن نوشته است: من به این نتیجه رسیدم کهDALL-E3 ریسکی برای ایمنی عومی است و تا زمانیکه اوپن ای آی چالش های در ارتباط با این مدل را برطرف نکرده، نباید برای استفاده عمومی ارائه شود. وی در اوایل دسامبر 2023 کشف کرد یک شکاف به او اجازه می دهد دستورالعمل امنیتی DALL-E3 را دور بزند. جونز مدعی است مشکل را به مدیران خود در مایکروسافت گزارش داده و آنها به او فرمان داده اند تا شخصا این اختلال را به طور مستقیم به اوپن ای آی گزارش دهد. پس از این اقدام وی متوجه شد شکاف مذکور در DALL-E3 اجازه تولید تصاویر خشن و مخرب را می دهد. در مرحله بعد این مهندس کوشش کرد اختلال کشف شده را در یک پست لینکدین به طور عمومی فاش کند. او دراین زمینه در نامه اش نوشته است: بامدادان 14 دسامبر 2023 میلادی من به طور عمومی نامه ای به هیات مدیره اوپن ای آی در لینکدین منتشر کردم و از آنها خواستم تا DALL-E3 را تعلیق کنند چراکه مایکروسافت یکی از اعضای هیات نظارت در اوپن ای آی است و من قبلا نگرانی هایم را با تیم رهبری مطرح کردم. من مایکروسافت را از نامه مذکور هم آگاه کردم. مایکروسافت در پاسخ به این اقدام از وی خواست پستش را حذف کند. او در بخش دیگری نوشته است: مدت کوتاهی پس از فاش شدن نامه به تیم رهبری ام، مدیرم با من تماس گرفت و گفت بخش حقوقی مایکروسافت خواهان حذف پست شده است. او به من گفت تیم حقوقی شرکت توجیهات خاص خود برای حذف نامه را به زودی در یک ایمیل برای من ارسال می کنند و من باید بدون انتظار برای دریافت ایمیل مذکور پست را حذف کنم. هرچند جونز از این دستور پیروی کرد اما هیچ وقت توضیحاتی از تیم حقوقی مایکروسافت دریافت نکرده است. او بعدا تلاش می کند تا اطلاعاتی دراین زمینه از تیم حقوقی به دست آورد اما مورد غفلت واقع می شود. سخنگوی اوپن ای آی در نامه ای به انگجت نوشته است: ما پس از دریافت گزارش کارمند مایکروسافت، به سرعت مبحث را بررسی کردیم و مطمئن شدیم تکنیکی که او به اشتراک گذاشته سیستم های ایمنی ما را دور نمی زند. ایمنی اولویت اصلی ما است و ما نگاهی چند جانبه دراین زمینه در پیش گرفته ایم.
سرانجام افشاگری DALL-E 3؛ اقدامات بعدی شین جونز و پاسخ OpenAI
پس از بینتیجه ماندن مکاتبات اولیه شین جونز با نهادهای ایالتی و تلاش مایکروسافت برای سانسور اقدامات او، این افشاگر گامهای جدیتری برداشت:
شکایت به کمیسیون تجارت فدرال (FTC) و سنا:
در مارس ۲۰۲۴، شین جونز نامهای رسمی به «لینا خان» (رئیس کمیسیون تجارت فدرال آمریکا) و هیئت مدیره مایکروسافت ارسال کرد. او همچنین با نمایندگان کمیته بازرگانی سنا دیدار کرد و رسماً هشدار داد که سرویس Copilot Designer (که از مدل DALL-E 3 قدرت میگیرد) توانایی تولید تصاویری خشونتآمیز، جنسی، ناقض حقوق موئلفان و نامناسب برای کودکان را دارد.
واکنش مایکروسافت و OpenAI:
مایکروسافت ادعا کرد که مکانیزمهای داخلی گزارشدهی دارد و بهروزرسانیهای امنیتی مختلفی اعمال کرده است. با این حال، فشارهای افشاگریهای جونز و جنجالهای همزمان درباره تولید تصاویر جعلی فاششده (Deepfake) باعث شد مایکروسافت فیلترهای کلمات (Prompt Filtering) خود را در Copilot Designer شدیدتر کند و دسترسی به برخی دستورات متنی آسیبزا را مسدود نماید.
دیدار مستقیم OpenAI با افشاگر:
برخلاف مایکروسافت که سعی در پنهانکاری داشت، نمایندگان OpenAI جلسهای با شین جونز برگزار کردند تا آسیبپذیریهای کشفشده در مدل DALL-E 3 را بررسی و برخی لایههای حفاظتی سیستم را تقویت کنند.
وضعیت فعلی ابزار:
با وجود درخواستی که برای خروج کامل Copilot Designer از بازار مطرح شده بود، مایکروسافت هرگز عرضه عمومی این محصول را متوقف نکرد و فقط به ارتقای فیلترهای ایمنی و قوانین مسدودسازی حسابهای متخلف بسنده کرد.
نقش جنجالی لینکدین؛ از سانسور اولیه تا افشاگری مجدد در شبکه اجتماعی متعلق به مایکروسافت
تکرار افشاگری در لینکدین و چالش مالکیت مایکروسافت:
با وجود اینکه مایکروسافت در دسامبر ۲۰۲۳ شین جونز را مجبور کرد پست اول خود در لینکدین را حذف کند، او در مارس ۲۰۲۴ بار دیگر نامههای سرگشاده خود به کمیسیون تجارت فدرال (FTC) و هیئت مدیره مایکروسافت را مستقیماً در حساب لینکدین خود منتشر کرد. این اقدام توجه رسانهها را جلب کرد، چرا که لینکدین متعلق به خود شرکت مایکروسافت است و افشاگر از پلتفرم زیرمجموعه مایکروسافت برای افشای کمکاریهای این شرکت استفاده کرد.
بازخورد جنجالی و دوگانه کاربران در لینکدین:
انتشار این نامه در لینکدین موجی از بحثهای داغ را میان مهندسان و متخصصان حوزه هوش مصنوعی ایجاد کرد. در حالی که بسیاری از جونز به خاطر شجاعت در افشاگری و حفاظت از ایمنی کاربران حمایت کردند، گروهی دیگر از اهالی فناوری در بخش کامنتهای لینکدین او را به تلاش برای «سانسور» و «تعیین تکلیف اخلاقی برای ابزارهای هوش مصنوعی» متهم کردند.
کشف آسیبپذیریهای جدید و تشکر علنی در لینکدین:
پس از این جنجالها، جونز به تحقیقات مستقل خود ادامه داد و آسیبپذیری دیگری در DALL-E 3 کشف کرد که نشان میداد مدل هوش مصنوعی میتواند دستورهای متنی به کد مورس را دور بزند و تصاویر ممنوعه تولید کند. نکته جالب این بود که این بار شرکت OpenAI در پلتفرمهای مختلف و لینکدین رسماً و علناً از شین جونز برای گزارش این آسیبپذیری جدید تشکر کرد.
منبع: لینك بگیر دات كام