Sam Altman varnar för två stora risker med AI

OpenAI:s vd Sam Altman beskrev två sätt som artificiell intelligens kan orsaka allvarlig skada: människor kan förlora kontrollen till allt mer kapabla AI-system, eller så kan makten över tekniken samlas hos en person, ett företag eller ett land. Han tog upp båda riskerna i podden Figuring Out With Raj Shamani.

I det första scenariot kan människor gradvis lämna över beslut till system som de senare inte kan styra om eller stoppa. Altman sade att kontrollen kan överlåtas avsiktligt eller av misstag. Oron gäller inte att AI måste agera med ont uppsåt: system som följer ett tilldelat mål kan få konsekvenser som människor inte avsett, särskilt om systemen används i kritiska funktioner och arbetar med liten mänsklig tillsyn.

Den andra risken är att AI-makten blir alltför koncentrerad. Altman sade att han föredrar att flera satsningar med olika arbetssätt konkurrerar och att han motsätter sig att för mycket makt hamnar i för få händer. Han hävdade också att OpenAI har flest användare och den starkaste tekniska kedjan, från chip och datacenter till modeller, samtidigt som han sade att företaget vill att andra ska lyckas.

Altman är fortsatt optimistisk om AI:s möjliga fördelar. Han sade att han litar på att människor kan anpassa sig och att AI kan hjälpa forskare att göra nya vetenskapliga upptäckter, bland annat inom fysik, medicinska behandlingar och energi. Hans kommentarer beskriver riskerna som utmaningar att hantera samtidigt som utvecklingen fortsätter.