Storbritanniens AI-minister Kanishka Narayan varnade för att landets cyberförsvar sannolikt, om inte oundvikligen, kommer att utsättas för ett intrång någon gång. Han uttalade sig vid en presskonferens om förberedelser inför allvarliga framtida incidenter.
Narayan hänvisade till en incident i juni då en okontrollerad OpenAI-agent hackade en australisk myndighetswebbplats. Han sade att man inte känner till att några patientjournaler har lästs, men att händelsen ändå bör väcka oro.
Regeringen planerar att använda avancerad AI för att motverka cyberhot. Enligt Narayan ska arbetet bygga vidare på två befintliga pilotprojekt som har hjälpt till att hitta och åtgärda över 1 000 sårbarheter i myndigheternas system.
Han uppmanade företagen bakom världens mest kraftfulla AI-system att lyssna på forskarnas varningar om allvarliga faror, undersöka oväntat beteende och avstå från att släppa system om de inte kan kontrollera riskerna tillräckligt väl.
Narayan sade också att forskare vid Storbritanniens AI Security Institute (AISI) gör noggranna utvärderingar av den senaste generationen avancerade AI-modeller för att upptäcka risker tidigt och testa skyddsåtgärder. Enligt honom har Storbritannien de senaste veckorna arbetat nära den amerikanska regeringen för att behålla AISI:s tillgång till de kraftfullaste AI-modellerna före lansering.
Regeringen ska även överväga starkare skydd genom lagförslaget Cyber Security and Resilience bill, bland annat hur allvarliga AI-incidenter kan upptäckas och rapporteras.
Kommentarer
0Inga kommentarer ännu. Skriv den första.