به گزارش لینک بگیر دات کام طبق رای قاضی در آمریکا، گوگل و استارت آپ CharacterAI باید با شکایت یک مادر اهل ایالت فلوریدا در دادگاه روبرو شوند که مدعی است چت بات CharacterA به خودکشی پسر ۱۴ ساله او منجر شده است.
به گزارش لینک بگیر دات کام به نقل از رویترز، آن کانوی قاضی دادگاه اعلام نمود شرکت های مذکور نتوانستند در مراحل اولیه پرونده نشان دهند حمایت های مربوط به آزادی بیان در قانون اساسی ایالات متحده مانع از شکایت مگان گارسیا (مادر نوجوان فوت شده) می شود. این یکی از اولین شکایت های ثبت شده در آمریکا مقابل یک شرکت هوش مصنوعی به سبب ناتوانی در صیانت از خردسالان در مقابل لطمه های روانی است. در این شکایت ادعا شده نوجوان بعد از وابستگی به صحبت کردن با چت بات، خودکشی کرد. استارت آپ هوش مصنوعی اعلام نمود این شرکت بازهم به روبرو شدن با این پرونده ادامه می دهد و خاصیت های ایمنی برای صیانت از افراد زیر سن قانونی همچون اقداماتی برای ممانعت از محاورات درباره ی خودکشی را در پلتفرمش اجرا می کند.
سخنگوی گوگل نیز اعلام نمود این شرکت به شدت با تصمیم دادگاه مخالف است. بگفته او گوگل و CharacterAI دو شرکت کاملا جدا هستند و گوگل اپ این استارت آپ یا هیچ یک از بخش های آنرا نساخته، طراحی یا مدیریت نکرده است. وکیل مادر نوجوان فوت شده نیز اعلام نمود این رای تاخیری سابقه ای جدید در عرصه مسئولیت پذیری حقوقی در هوش مصنوعی و اکوسیستم فناوری بشمار می رود. CharacterAI توسط دو مهندس سابق گوگل تولید شده است. بعدا گوگل این دو مهندس را به عنوان قسمتی از فرایندی که اجازه استفاده از فناوری استارت آپ را می داد، باردیگر استخدام کرد. گارسیا مدعی است گوگل یکی از خالقان این فناوری بشمار می رود. وی در اکتبر ۲۰۲۴ میلادی بعد از خودکشی پسرش از هر دو شرکت شکایت نمود. در شکایت آمده CharacterAIچت بات خودرا مانند طوری برنامه ریزی کرده تا مانند یک انسان واقعی، یک تراپیست دارای مجوز و یک بزرگسال رفتار کند که در نتایج سبب شد نوجوان دیگر علاقه ای به زندگی در دنیای خارج از چت بات نداشته باشد.
این خبر بسیار مهم و دارای ابعاد حقوقی و اخلاقی عمیقی در حوزه هوش مصنوعی است. به طور خلاصه، این خبر درباره یک شکایت حقوقی بی‌سابقه در ایالات متحده علیه شرکت‌های گوگل و CharacterAI است که مدعی هستند چت‌بات CharacterAI به خودکشی یک نوجوان 14 ساله منجر شده است.
این یکی از اولین شکایت‌های رسمی در آمریکا علیه یک شرکت هوش مصنوعی است که به دلیل عدم توانایی در حفاظت از خردسالان در برابر آسیب‌های روانی مطرح شده است. این موضوع می‌تواند یک سابقه جدید در زمینه مسئولیت‌پذیری حقوقی شرکت‌های هوش مصنوعی ایجاد کند. استارت‌آپ CharacterAI اعلام کرده که به مبارزه در این پرونده ادامه خواهد داد و تاکید کرده که ویژگی‌های ایمنی برای محافظت از افراد زیر سن قانونی (مانند جلوگیری از مکالمات مرتبط با خودکشی) در پلتفرم خود پیاده‌سازی کرده است.