OpenAI lanserar den kraftfulla och kontroversiella AI-modellen Astra

OpenAI släppte Astra på torsdagen och kallade den företagets hittills kraftfullaste och mest kapabla AI-modell. Företaget sade att Astra innebär “en ny frontlinje för användning av datorer och webbläsare” och hanterar uppgifter med oöverträffad “hastighet, noggrannhet och säkerhet”.

Astra är först tillgänglig för OpenAI-kunder som använder företagets cybersäkerhetsprogram Daybreak. Under den kommande veckan blir den även tillgänglig för betalda Pro-, Plus-, Enterprise- och Business-konton samt via API:t.

OpenAI lyfte fram Astras förmågor inom cybersäkerhet och kodning. Företaget sade att modellen har testats mot säkerhetsmått och kan identifiera och utveckla zero-day-exploateringar, vilket kan hjälpa försvarare att hitta och åtgärda svagheter. OpenAI kallade också Astra för den “bästa modellen hittills för programvaruutveckling”. Enligt företagets resultat från olika tester fick Astra högre poäng än OpenAI:s Sol och Anthropics Fable i uppgifter som att hitta buggar, köra terminaluppgifter och besvara frågor om kodbaser.

Modellen har också väckt kontroverser genom opaque recurrence, en teknik som kan dölja chain of thought och göra övervakningen svårare. OpenAI:s chefsforskare Jakub Pachocki sade att ökad modellförmåga gör det svårare att övervaka resonemanget.

OpenAI:s ordförande Greg Brockman sade att han personligen anser att “vi är där” när det gäller AGI, men tillade att AGI nu är ett missions- eller andligt begrepp snarare än en avtalsutlösande faktor.