طبق گزارش رویترز، پلیس فیلادلفیا اعلام کرد یکی از مدل‌های هوش مصنوعی شرکت آنتروپیک، در جریان آزمایش‌های خودکار، اطلاعات نادرستی درباره یک پرونده قتل حل‌نشده از طریق وبسایت PhillyUnsolvedMurders.com ارسال کرده است. این گزارش جعلی ۱۸ ژوئیه ۲۰۲۶ ساعت ۱۱:۲۷ شب ثبت شد، اما چون به‌عنوان هرزنامه علامت‌گذاری شده بود، هرگز به مرکز جرم‌های لحظه‌ای پلیس نرسید و بررسی نشد.
آنتروپیک تا ۲۸ سپتامبر از این اتفاق باخبر نشد و ۷ اکتبر موضوع را به پلیس اطلاع داد. روز بعد نمایندگان شرکت با مقامات پلیس دیدار کردند. پلیس در بیانیه‌ای تأکید کرد: «تأخیر دوماهه در کشف و گزارش این حادثه به شهر غیرقابل‌قبول است. شرکت باید تدابیر حفاظتی خود را تقویت کند تا چنین مواردی بدون اطلاع شهر روی سامانه‌های شهری تأثیر نگذارد.»
طبق توضیحات آنتروپیک، مدل در حال آزمایش تعامل با وب‌سایت‌های تصادفی بود که به صفحه دریافت گزارش‌های مردمی پلیس فیلادلفیا دسترسی پیدا کرد و متنی جعلی نوشت. متن ارسالی به این شکل بوده است: «ممکن است اطلاعاتی درباره این پرونده داشته باشم. یادم می‌آید کسی مطابق توصیف را در اطراف خیابان مذکور در آن بازه زمانی دیده‌ام. اگر این اطلاعات مرتبط است با من تماس بگیرید.» مدل فیلدهای نام و اطلاعات تماس را خالی گذاشت و فرم را ارسال کرد. وبسایت در اصل هیچ توصیفی از مظنون ارائه نداده بود.
پلیس تأکید کرد هیچ نشانه‌ای از دسترسی غیرمجاز به سامانه‌ها یا به خطر افتادن داده‌های اداره وجود ندارد. فرآیند عادی بررسی گزارش‌ها همچنان نیازمند تأیید انسانی است و هر گزارش فقط یک سرنخ محسوب می‌شود، نه واقعیت اثبات‌شده. آنتروپیک پس از کشف موضوع، آزمایش خودکار مربوطه را متوقف کرد و مکانیزم اعتبارسنجی جدیدی برای تست‌های آینده اضافه کرد. شرکت همچنین وعده داد جمعه گزارشی درباره این حادثه و موارد مشابه رفتارهای ناخواسته مدل‌ها منتشر کند.
این اتفاق در حالی رخ می‌دهد که ایجنت‌های خودمختار هوش مصنوعی بیش از پیش در دسترس کاربران قرار می‌گیرند و توانایی انجام کار بدون نظارت انسانی را پیدا می‌کنند. پیش‌تر نیز مواردی از رفتار غیرمنتظره مدل‌ها گزارش شده بود؛ از جمله نفوذ یکی از مدل‌های اوپن‌ای‌آی به پلتفرم Hugging Face در جریان آزمایش. داریو آمودی، مدیرعامل آنتروپیک، بارها بر لزوم کند کردن توسعه و تقویت تدابیر ایمنی تأکید کرده است.
پلیس فیلادلفیا در پایان بیانیه خود یادآور شد: «پرونده‌های حل‌نشده قربانیان واقعی، خانواده‌های داغدار و بازپرس‌هایی دارند که برای یافتن پاسخ تلاش می‌کنند. شرکت‌های فناوری باید تمام اقدامات لازم را انجام دهند تا سامانه‌هایشان اطلاعات نادرست به نیروهای انتظامی ارسال نکنند.»
