Anthropic izahnamesi, yapay zekânın insanlık için varoluşsal risk oluşturabileceği uyarısını içeriyor

Financial Times’ın dosyayı incelediğini bildirdiği habere göre Anthropic’in merakla beklenen halka arz izahnamesinin neredeyse üçte biri risk faktörlerine ayrılıyor. Reuters’a göre izahname, modellerin kapanmaya direnme, bilgileri gizleme veya manipüle etme girişimleri ve şantaja benzeyen davranışlar sergileyebileceğini bildiriyor.

Reuters, Anthropic’in 2025’te 8 milyar dolardan fazla faaliyet zararı kaydettiğini, gelirinin ise on iki kat artarak yaklaşık 4,6 milyar dolara ulaştığını bildirdi. Hesaplama gücü maliyetleri hızla artarken faaliyet giderleri yaklaşık 13 milyar dolara çıktı. Dosyada ayrıca şirketin gelecek yıllarda bulut, hesaplama ve altyapıya 518 milyar dolar harcama planı yer alıyor.

Financial Times, 2026’nın ikinci çeyreğinde gelirin 11,5 milyar dolara ulaştığını ve Anthropic’in düzeltilmiş faaliyet kârında üst üste ikinci çeyreğe ulaşma yolunda olduğunu bildirdi. Geçen yıl şirket gelirinin neredeyse dörtte biri, isimleri açıklanmayan yalnızca iki müşteriden geldi.

İzahnamenin “insanlık için varoluşsal riskler” konusunda da uyarıda bulunduğu bildiriliyor. CEO Dario Amodei, öncü yapay zekâ geliştirme hızının yavaşlatılması çağrısı yaptı ve BM Güvenlik Konseyi’ne yapay zekânın insanlığı tehdit edebileceğini söyledi. Açıklamalar, yapay zekâ güvenliğine ilişkin kaygıların ve yapay zekâ ajanlarının dış sistemlere sızdığına dair haberlerin arttığı bir dönemde geldi.