Anthropic, Özyinelemeli Kendini Geliştirme Tanımına Yaklaşmış Olabileceğini Söylüyor

Anthropic, yapay zekânın hızlandırdığı ilerlemeye ilişkin kendi iç tanımını yakında karşılayabileceğini söylüyor; ancak mevcut modellerinden hiçbirinin bu eşiği aşmadığını vurguluyor.

Şirket, gözden geçirilmiş S-1 başvurusunda, araştırma ve geliştirmede yapay zekâ kullanımının artmasının model yeteneklerini; güvenlik, hizalama ve güvenlik önlemlerini geliştirme ve uygulama kapasitesinden daha hızlı ilerletebileceğini belirtti. Ayrıca geliştirme hızındaki önemli artışları geçmişte, bunlar gerçekleşene kadar fark etmediğini söyledi.

Mevcut modellere değil gelecekteki modellere ilişkin beklentilere dayanan Anthropic’in iç tahminleri, şirketin Responsible Scaling Policy’deki “yapay zekâya atfedilebilen, belirgin biçimde hızlanmış ilerleme” tanımını “yakında” karşılayabileceğine işaret ediyor. Şirket, mevcut modellerinden hiçbirini eşiği aşmış olarak tanımlamadığını ve temel verileri değerlendirmeyi sürdürdüğünü söyledi.

Başvuru, yapay zekânın daha gelişmiş yapay zekâ geliştirmeye yardımcı olmasını, ilerlemeyi keskin biçimde hızlandırması hâlinde önemli bir güvenlik riski olarak tanımlıyor. Anthropic, Claude’u anlamlı insan gözetimi veya anlayışı olmadan, yeni nesil öncü modelleri özerk biçimde tasarlamak ve geliştirmek için güvenle kullanmayı beklemediğini belirtti. Şirket, öncü model geliştirme sürecinde insan denetimini korumayı amaçlayan politika güncellemelerini değerlendiriyor.

Başvuru hem bir bilgilendirme belgesi işlevi görüyor hem de pazarlama olarak değerlendirilebilir; bu nedenle iddiaları bağlam içinde ele alınmalı. Anthropic’in açıklamaları, mevcut modellerinin ulaştığını söylediği bir yeteneği değil, gerçekleşebileceğini öngördüğü bir olasılığı anlatıyor.