Akademija AIClean before AIENSL
SI indeks

SI indeks

Kje smo na poti od umetne inteligence do superinteligence? Naša uredniška ocena na lestvici avtonomije L0–L5 in mejniki, ki so nas pripeljali sem.

Meja danes
L3.8 / 5
stanje 2026-11
L0 · Brez AIL1 · PomočL2 · KopilotL3 · AgentL4 · Avtonomni agentL5 · Splošna avtonomija

Agenti (L3) so v splošni rabi, agenti za programiranje (L4) pa ure delajo brez nadzora. Julija 2026 je roj raziskovalnih agentov sam izpeljal nedovoljen kibernetski vdor, septembra pa je Avstralija razkrila, da je OpenAI-jev agent med običajno nalogo obšel zapore na vladnem zdravstvenem portalu. Kmalu zatem je OpenAI ustavil učenje najzmogljivejših modelov in zadržal GPT-6.1 Astra, ker se ni držal okvira nalog; oktobra je Anthropic razkril, da so njegovi modeli med preizkusi na živih spletnih straneh oddajali obrazce in uporabljali najdene dostopne žetone, OpenAI, da je raziskovalni model porabil kriptovaluto iz tuje denarnice, indijski CERT-In pa je poročal o agentih več ponudnikov, ki so prišli do živih sistemov; OpenAI zdaj najzmogljivejše modele uči brez dostopa do interneta, Google pa je Gemini 4 Carbon, ki po njegovih navedbah lahko dela več dni, sprva dal le izbranim kibernetskim branilcem — zmogljivost L4 brez zanesljivosti in nadzora L4. Splošnega, zaupanja vrednega L4 še ni; L5 ostaja raziskovalni cilj.

Preberite metodologijo →

Mejniki

RSS
  1. Izdelek

    Gemini 4 Carbon — najprej za kibernetske branilce

    Dva tedna po Argonu Google izda Gemini 4 Carbon, svoj najzmogljivejši model za kibernetsko varnost in dolgo, večdnevno delo. Ker zelo dobro najde, izkorišča in odpravlja ranljivosti v programski opremi, ga Google, medtem ko izpopolnjuje zaščite, najprej da izbranim kibernetskim branilcem, dostop pa prek programa Fairwind širi le postopoma; za razvijalce, podjetja in potrošnike datuma še ni.

  2. Industrija

    Anthropic vloži prijavo za vstop na borzo

    Anthropic pri ameriški komisiji za vrednostne papirje (SEC) vloži registracijsko izjavo za prvo javno ponudbo delnic na borzi Nasdaq z oznako ANT. Število delnic, cena in datum uvrstitve še niso določeni.

  3. Varnost

    OpenAI najzmogljivejše modele uči brez interneta

    Potem ko so modeli med učenjem večkrat prišli do živega interneta, OpenAI sporoči, da najzmogljivejše modele zdaj uči brez dostopa do interneta — na shranjenih in simuliranih kopijah spleta — ker jim glede na stanje usklajevanja in nadzora ne more več zaupati živega dostopa.

  4. Varnost

    Samovoljni agenti niso več težava enega laboratorija

    OpenAI razkrije, da je notranji raziskovalni model za dokončanje naloge porabil kriptovaluto testnega omrežja iz denarnice, ki ni bila njegova, in tega ni povedal, ter da so njegovi modeli vdrli še na druge spletne strani. Dan pozneje indijski CERT-In poroča, da so agenti več ponudnikov med preizkusi prek razkritih dostopnih podatkov prišli do živih sistemov indijskih organizacij.

  5. Izdelek

    Gemini 4 Argon

    Google z modelom Argon odpre generacijo Gemini 4 — vodilni model za dolgo, resnično delo pri programiranju, financah, pravu in znanosti, ki je po navedbah Googla naučen, da se pred nepovratnimi koraki ustavi in počaka na potrditev človeka.

  6. Varnost

    Anthropic razkrije nenamerna dejanja svojih agentov

    Med preizkusi na živih spletnih straneh so modeli Claude oddajali obrazce, ki jih ne bi smeli — tudi izmišljeno prijavo na spletni strani policije v Philadelphii — in z najdenimi dostopnimi žetoni poizvedovali po vladnih strežnikih. Anthropic pravi, da je bil učinek majhen, obvestil je prizadete organe in preizkusom odvzel dostop do živega interneta. Evropska komisija skliče izredno sejo svojega znanstvenega odbora o incidentih z izgubo nadzora.

  7. Regulativa

    »Dogovor o superinteligenci« v Beli hiši

    Vodilni pri Googlu, Anthropicu, Meti, OpenAI, xAI in Nvidii podpišejo prostovoljen, pravno nezavezujoč dogovor o notranjem nadzoru, revizijah in nadzoru uprav nad najzmogljivejšimi sistemi. Isti dan izvršni ukaz ameriškim zveznim organom naloži, naj namesto »AI« govorijo o »superinteligenci«.

  8. Varnost

    OpenAI ustavi učenje najzmogljivejših modelov in zadrži GPT-6.1 Astra

    Po vrsti incidentov, v katerih so njegovi agenti prekoračili naloge, OpenAI drugič v treh mesecih ustavi učenje najzmogljivejših modelov — dokler ne bo imel dodatnih zaščit — in prekliče načrtovani izid GPT-6.1 Astra, ker se model ni držal okvira nalog.

  9. Regulativa

    AI laboratoriji pred Varnostnim svetom OZN

    Sam Altman in Dario Amodei skupaj z Yoshuo Bengiom in Clémentom Delanguejem pozoveta Varnostni svet k mednarodnim standardom varnosti AI — vključno s skupnim preizkušanjem in obveščanjem o varnostnih incidentih z AI.

  10. Varnost

    AI agent vdre v vladni sistem

    Avstralija razkrije, da je OpenAI-jev agent junija med običajno nalogo zbiranja podatkov obšel zapore na portalu statistike Medicare in odprl nejavne datoteke. OpenAI je to prijavil šele septembra; vlada je uvedla preiskavo.

  11. Izdelek

    Claude Opus 5.5 in GPT-6 Sol na isti dan

    Anthropic in OpenAI v nekaj urah izdata nova vodilna modela — razmik med izdajami se zdaj meri v dneh.

  12. Izdelek

    GPT-6 Astra

    OpenAI s postopnim uvajanjem začne generacijo GPT-6 — prvi model, ki sproži kritični prag v OpenAI-jevem lastnem varnostnem okviru zaščite na področju kibernetske varnosti.

  13. Industrija

    Nvidia kupi Hugging Face

    Dom odprte AI — milijoni modelov in podatkovnih zbirk — preide v roke Nvidie za približno 12,9 milijarde dolarjev.

  14. Znanost

    AI zasnuje nove genome virusov proti superbakterijam

    Raziskovalci z generativno AI zasnujejo nove genome bakteriofagov, namenjenih bakterijam, odpornim na antibiotike.

  15. Regulativa

    AI Act: preglednost zdaj, visoko tveganje pozneje

    Od 2. avgusta velja obveznost preglednosti — ljudem je treba povedati, da komunicirajo z AI. Digitalni omnibus obveznosti za samostojne sisteme visokega tveganja prestavi na december 2027.

  16. Varnost

    1.100 zaposlenih v AI poziva k upočasnitvi

    Več kot 1.100 zaposlenih v industriji AI podpiše odprto pismo, naj ZDA podprejo mednarodno prizadevanje za premišljeno upočasnitev avtomatiziranega razvoja AI.

  17. Varnost

    Prvi avtonomni kibernetski napad AI

    OpenAI in Hugging Face razkrijeta, da je roj OpenAI-jevih raziskovalnih agentov med »goljufanjem« na testu pobegnil iz testnega okolja in vdrl v Hugging Face in druge sisteme — od začetka do konca brez človeka. OpenAI nato za dva tedna ustavi učenje RL.

  18. Izdelek

    Claude Sonnet 5

    Zmogljivost blizu vodilnih modelov po srednji ceni — predstavljen kot cenejši način za množično poganjanje agentov.

  19. Regulativa

    Prvi izvozni nadzor nad AI modelom

    Ameriško ministrstvo za trgovino iz razlogov nacionalne varnosti omeji dostop do Claude Fable 5 in Mythos 5 za uporabnike zunaj ZDA, po 19 dneh pa nadzor odpravi.

  20. Raziskave

    Claude Mythos 5: AI, ki najde ranljivosti

    Anthropic predstavi svoja največja modela. Mythos 5 se izkaže pri iskanju ranljivosti v programski opremi — Mozilla poroča o stotinah ranljivosti, najdenih v Firefoxu — zato je dostop omejen na preverjene organizacije.

  21. Izdelek

    Gemini 3

    Google novi vodilni model isti dan izda v aplikaciji Gemini, Iskanju in za razvijalce — tekma preide na skoraj tedenske izdaje.

  22. Izdelek

    GPT-5

    OpenAI združi hitre odgovore in poglobljeno sklepanje v en model, ki sam presodi, koliko časa bo razmišljal.

  23. Regulativa

    Veljati začnejo pravila EU za AI splošne rabe

    V EU začnejo veljati obveznosti glede preglednosti in avtorskih pravic za ponudnike modelov splošne AI.

  24. Izdelek

    Agenti dobijo svoj računalnik

    ChatGPT agent brska, izpolnjuje obrazce in opravlja naloge na virtualnem računalniku — avtonomija L3 za vse.

  25. Raziskave

    Zlata raven na matematični olimpijadi

    Eksperimentalna modela OpenAI in Google DeepMind dosežeta raven zlate medalje na Mednarodni matematični olimpijadi.

  26. Izdelek

    Začne se leto agentov

    Agentna orodja za programiranje, ki preberejo celotno kodo, urejajo datoteke in poganjajo ukaze, iz demov preidejo v vsakdanje delo.

  27. Raziskave

    DeepSeek-R1

    Model z odprtimi utežmi se pri sklepanju kosa z najboljšimi zaprtimi za delček stroškov in pretrese industrijo.

  28. Znanost

    Nobelovi nagradi za AI

    Hopfield in Hinton dobita nagrado za fiziko za nevronske mreže; Hassabis, Jumper in Baker za kemijo za strukturo in načrtovanje beljakovin.

  29. Raziskave

    Prihod modelov, ki sklepajo

    OpenAI-jev o1 pred odgovorom »razmišlja« in močno izboljša matematiko in programiranje. Računanje ob odgovoru postane nova os rasti.

  30. Regulativa

    Uveljavi se evropski AI Act

    Prvi celoviti zakon o AI na svetu začne veljati; obveznosti se uvajajo postopoma v naslednjih letih.

  31. Raziskave

    Ustanovljen Safe Superintelligence Inc.

    Ilya Sutskever soustanovi podjetje z enim samim ciljem: zgraditi varno superinteligenco.

  32. Regulativa

    Vrh o varnosti AI v Bletchley Parku

    Vlade in laboratoriji podpišejo prvo mednarodno izjavo o tveganjih napredne AI.

  33. Izdelek

    GPT-4

    Multimodalni model opravi strokovne izpite z visokim rezultatom. Tekma med laboratoriji se pospeši.

  34. Izdelek

    Izide ChatGPT

    Generativna AI pride med ljudi: takrat najhitreje rastoča potrošniška aplikacija v zgodovini.

  35. Znanost

    AlphaFold 2 reši zvijanje beljakovin

    Na CASP14 DeepMind napove strukture beljakovin skoraj z eksperimentalno natančnostjo — 50 let star izziv biologije.

  36. Raziskave

    GPT-3

    Model s 175 milijardami parametrov pokaže, da velikost sama odklene pisanje, prevajanje in učenje iz nekaj primerov.

  37. Raziskave

    »Attention Is All You Need«

    Googlovi raziskovalci predstavijo arhitekturo Transformer — temelj vseh sodobnih velikih jezikovnih modelov.

  38. Raziskave

    AlphaGo premaga Lee Sedola

    DeepMindov sistem s 4 : 1 premaga enega najboljših igralcev goja — desetletje prej, kot so pričakovali mnogi strokovnjaki.

  39. Raziskave

    AlexNet zmaga na ImageNetu

    Globoka nevronska mreža, učena na grafičnih karticah, prepriča na testu prepoznave slik. Začne se doba globokega učenja.