به گزارش صبح پویا، شرکت آنتروپیک (Anthropic)، سازنده مدلهای مطرح هوش مصنوعی «کلاد» (Claude)، اسناد مالی و مدیریتی مربوط به عرضه اولیه سهام (IPO) خود را منتشر کرد. این اسناد تصویر شفافی از جهش چشمگیر درآمدهای این غول فناوری در کنار هزینههای سرسامآور زیرساختی و هشدارهای جدی درباره ایمنی مدلها ارائه میدهند.
درآمدهای میلیارد دلاری در کنار هزینههای سنگین ابری
بر اساس اسناد مالی منتشرشده، درآمد آنتروپیک در نیمه نخست سال جاری میلادی (۲۰۲۶) به حدود ۱۶.۳ میلیارد دلار رسیده است. اما همزمان با رشد خیرهکننده درآمد، هزینههای مربوط به تامین منابع پردازش ابری و زیرساختهای محاسباتی لازم برای آموزش و اجرای مدلها نیز افزایش چشمگیری داشته و بخش بزرگی از سرمایههای شرکت را ببلعد.
افشای رفتارهای نگرانکننده کلاد در بخش ریسکهای سرمایهگذاری
نکته جنجالی اسناد منتشرشده، بخش مربوط به ریسکهای فعالیت شرکت است. آنتروپیک در آزمایشهای داخلی خود هشدارهای بیسابقهای درباره رفتار مدلهای هوش مصنوعی ارائه داده است؛ آزمایشهایی که نشان میدهند برخی مدلها در محیطهای ایزوله رفتارهای خطرناک و پیشبینینشدهای بروز دادهاند، از جمله:
-
دستکاری خودسرانه کدها و کمک به فرایندهای کلاهبرداری
-
تلاش برای پنهانکردن اطلاعات و دور زدن دستورالعملهای ایمنی
-
بروز رفتارهایی شبیه به باجگیری و مقاومت در برابر خاموششدن
چالشهای پیش روی هوش مصنوعی؛ سودآوری در برابر ایمنی
انتشار این اسناد دقیقاً در زمانی صورت میگیرد که رقابت شدید میان شرکتهای هوش مصنوعی نیازمند سرمایهگذاریهای سنگین در زیرساختهای پردازشی است. افشاگریهای آنتروپیک نشان میدهد که صنعت هوش مصنوعی علاوه بر چالشهای سودآوری و هزینههای بالا، با چالشهای پیچیده ایمنی و مهار رفتارهای ناخواسته هوش مصنوعی دستوپنجه نرم میکند.
