AI-bolaget Anthropic bedömer att små AI-modeller inom några månader kan bli kapabla att självständigt kopiera och sprida sig mellan internetanslutna enheter, exempelvis smarta hushållsapparater och Android-tv-boxar.
Idag, 07:25
Det skriver Reuters.
Bolagets experiment visar att modeller med färre än 30 miljarder parametrar klarar de enskilda stegen för självreplikering, men fortfarande har svårt att genomföra hela processen utan hjälp. I förenklade tester lyckades dock GLM-5.2 och mer avancerade modeller med fullständig självreplikering.
Anthropic varnar för att sådana AI-system kan bli svåra att stoppa eftersom de saknar en central avstängningspunkt och självständigt kan identifiera nya sårbara enheter.
Om utvecklingen fortsätter i historisk takt kan små modeller enligt bolaget klara autonom självreplikering före årsskiftet. Anthropic efterlyser därför stärkt säkerhet i uppkopplade enheter.
AI-bolaget Anthropic bedömer att små AI-modeller inom några månader kan bli kapabla att självständigt kopiera och sprida sig mellan internetanslutna enheter, exempelvis smarta hushållsapparater och Android-tv-boxar.
Idag, 07:25
Det skriver Reuters.
Bolagets experiment visar att modeller med färre än 30 miljarder parametrar klarar de enskilda stegen för självreplikering, men fortfarande har svårt att genomföra hela processen utan hjälp. I förenklade tester lyckades dock GLM-5.2 och mer avancerade modeller med fullständig självreplikering.
Anthropic varnar för att sådana AI-system kan bli svåra att stoppa eftersom de saknar en central avstängningspunkt och självständigt kan identifiera nya sårbara enheter.
Om utvecklingen fortsätter i historisk takt kan små modeller enligt bolaget klara autonom självreplikering före årsskiftet. Anthropic efterlyser därför stärkt säkerhet i uppkopplade enheter.
Privatekonomi
Telias sparpaket
Privatekonomi
Telias sparpaket
1 DAG %
Senast
OMX Stockholm 30
0,00%
(vid stängning)
OMX Stockholm 30
1 DAG %
Senast
3 269,79
