- Neuvottelut Trumpin hallinnon ja Anthropicin välillä ovat pysähtyneet ratkaisemattomien huolenaiheiden vuoksi, jotka liittyvät Claude Fable 5 -mallin "jailbreakkaaviin" haavoittuvuuksiin.
- NSA vahvisti, että turvaesteitä voitiin ohittaa arkaluonteisten kyberturvallisuus- ja biokemiallisten tietojen saamiseksi, mikä johti tiukkaan vientivalvontaan.
- Alan asiantuntijat varoittavat, että hallituksen vaatimus 100-prosenttisesti jailbreak-suojatusta järjestelmästä voi olla teknisesti mahdoton suurten kielimallien luonteen vuoksi.
- Tämä pattitilanne merkitsee merkittävää muutosta Yhdysvaltojen politiikassa, jossa edistynyttä tekoälyä kohdellaan strategisena kansallisena infrastruktuurina pelkän kaupallisen ohjelmiston sijaan.
Trumpin hallinnon ja Anthropicin välinen viimeaikainen pattitilanne on lähettänyt väreitä teknologiamaailmaan, kun neuvottelut julkaisusta... Claude Fable 5 -malli ajautui umpikujaan tällä viikolla. Huolimatta päivien ajan käydyistä korkean tason keskusteluista, joihin osallistui johtajia ja virkamiehiä, Anthropicin edistyneimmälle tekoälylle asetettiin tiukat vientirajoitukset pysyvät tiukasti paikoillaan. Nykytilanne viittaa siihen, että Washington ei ole enää halukas jäämään taka-alalle laboratorioiden kilpaillessa kohti yhä tehokkaampia järjestelmiä ilman luodinkestävää turvallisuustakuuta.
Asian ytimessä on jailbreak-niminen tekniikka, jossa käyttäjät manipuloivat tekoälyn ohjeita ohittaakseen turvallisuusprotokollat. Vaikka Anthropic on johdonmukaisesti väittänyt, että riskejä liioitellaan, hallinnon... huolenaiheet vahvistettiin syväanalyysillä Kansallisen turvallisuusviraston (NSA) suorittama operaatio. Draama on käytännössä vetänyt rajan hiekkaan osoittaen, että Valkoinen talo pitää nyt eturintamassa olevia tekoälymalleja strategisina kansallisina voimavaroina, jotka vaativat samanlaista tarkastelua kuin edistyneet aseet tai ydinteknologia.
NSA:n väliintulo ja Claude Fable 5:n sulkutila
Jännitteet kärjistyivät viime viikolla, kun kauppaministeriö antoi määräyksen, joka käytännössä katkaisi kansainvälisen pääsyn Fable 5:een. Tämä ei ollut vain satunnainen byrokraattinen este; se käynnistyi sen jälkeen, kun Amazonin toimitusjohtaja Andy Jassy, kerrottiin soitti hälytyskelloa valtiovarainministeri Scott Bessentille järjestelmän mahdollisista haavoittuvuuksista. Kun NSA puuttui asiaan varmistaakseen nämä väitteet, he totesivat, että suojatoimet, joiden tarkoituksena oli suojella Claude Mythos -mallin huippuluokan kyberturvallisuus ja biokemiallisia kykyjä voitaisiin todellakin kiertää.
Koska nämä mallit ovat niin syvästi yhteydessä toisiinsa, kuluttajille suunnattuun Fable 5:een kohdistuva tietomurto voisi mahdollisesti anna valtakunnan avaimet pahoille toimijoille pyrkivät hyödyntämään Mythoksen piilevää voimaa. Anthropic yritti lieventää tilannetta poistamalla mallit käytöstä maailmanlaajuisesti väittäen, että käyttöoikeuden rajoittaminen pelkästään ulkomaisille tahoille oli toiminnallisesti mahdotonta. Tämä täydellinen sulkeminen on jättänyt monet käyttäjät pulaan, mutta se korostaa, kuinka kansallinen turvallisuus on nyt etusijalla kaupallisesta saatavuudesta Yhdysvaltain hallituksen silmissä.
Tekninen taistelukenttä: Onko nollariski mahdollinen?
Vaikka hallitus haluaa täydellisen korjauksen, monet tiedeyhteisössä ajattelevat, että Washington pyytää mahdotonta. Toisin kuin perinteisessä ohjelmistossa, jossa koodissa voi vain paikata aukon, tekoälyyn perustuvat jailbreakit ovat hieman liikkuva maali, koska ne... luottaa ihmiskielen vivahteisiin pikemminkin kuin tietty tekninen vika. Asiantuntijat ovat huomauttaneet, että niin kauan kuin nämä mallit on suunniteltu joustaviksi ja luoviksi, on todennäköisesti aina olemassa nerokas tapa suostutella ne tekemään jotain, mitä niiden ei pitäisi.
Anthropic on ajanut "syvyyssuuntaista puolustusstrategiaa", joka keskittyy valvontaan ja nopeaan reagointiin täydellisen suojan lupaamisen sijaan. Trumpin hallinto näyttää kuitenkin odottavan... korkeampi todennettavissa oleva turvallisuustaso ennen kuin malli päästetään takaisin luontoon. Tämä filosofioiden yhteentörmäys luo paljon kitkaa, sillä teknologiayritykset kokevat tulevansa täydellisyyden standardin mukainen jota ei yksinkertaisesti ole olemassa todellisessa insinööritieteiden maailmassa.
Tämän päätöksen heijastusvaikutukset tuntuvat jo koko toimialalla, ja ne viestivät uudesta "varjosääntelyn" aikakaudesta, jossa vientivalvontaa käytetään ensisijaisena valvonnan välineenä. Tekemällä Antrooppinen testitapaus näille uusille säännöilleValkoinen talo lähettää selkeän viestin muille jättiläisille, kuten OpenAI:lle ja Googlelle. Jos haluat ottaa käyttöön seuraavan sukupolven rajaseudun malleja, sinun on todistettava liittovaltiolle, että Sisäiset esteet ovat enemmän kuin vain kohtelias ehdotus käyttäjälle.
Jatkossa painopiste siirtyy todennäköisesti standardoidun kehyksen luomiseen näiden riskien mittaamiseksi, jotta päätöksiä ei tehdä lennossa hätäkokouksissa. Toistaiseksi vientivalvonta Claude Fable 5 -osastolla muistutuksena siitä, että tekoälyn kehityksen villin lännen aikakausi on päättymässä. Ala on siirtymässä strategisempaan ja kenties rajoitetumpaan vaiheeseen, jossa turvallisuuden ja innovaatioiden on vihdoin löydettävä tie esiintyä rinnakkain kansallisten sääntelyviranomaisten valvovan silmän alla.
