Antradienio pranešime Dario Amodei, AI startuolio „Anthropic“ generalinis direktorius, šią savaitę Paryžiuje AI veiksmo viršūnių susitikime pavadino „praleista galimybe“ ir paragino AI pramonę – ir vyriausybę – „judėti greičiau ir labiau aiškiai“.
„Mums buvo malonu dalyvauti AI veiksmo viršūnių susitikime Paryžiuje ir mes vertiname Prancūzijos vyriausybės pastangas suburti AI kompanijas, tyrėjus ir politikos formuotojus iš viso pasaulio“, – teigė Amodei. „Vis dėlto reikia daugiau dėmesio ir skubumo kelioms temoms, atsižvelgiant į tai, kokiu tempu technologija progresuoja“.
Amodei kritika dėl AI veiksmo viršūnių susitikimo, naujausio iš konferencijų, kurios subūrė AI įmones ir reguliavimo institucijas, bandydama susitarti dėl AI valdymo, pakartoja kelis akademikus anksčiau šią savaitę. Vienas pasakojo „Transformeriui“, kad konferencijos įsipareigojimai, kuriuos JAV ir JK atsisakė pasirašyti, sakė „iš tikrųjų nieko, išskyrus platumą“.
Komentaruose konferencijoje JAV viceprezidentas JD Vance laikėsi visiškai kitokios pozicijos ir pasmerkė tai, ką jis apibūdino kaip „masinius“, ir griežtus reglamentus AI, kurią palaikė Europa. Vance taip pat ėmėsi problemų dėl turinio, nurodydamas „tvarią“ ir „įtraukiančią“ formuluotę konferencijos įsipareigojimuose, kuriuos jis atmetė kaip „autoritarinę cenzūrą“.
Amodei savo pareiškime perspėjo, kad AI sparčiai tampa sudėtingesnė ir kad nesugebėjimas jo reguliuoti gali sukelti pražūtingų padarinių.
„AI sistemų galimybės bus geriausiai galvojamos kaip panašios į visiškai naują valstybę, kurią apgyvendina labai intelektualūs žmonės, atsirandantys pasaulinėje arenoje“, – teigė Amodei. „Išplėstinė AI kelia didelius pasaulinius saugumo pavojus, pradedant nuo netinkamo AI sistemų naudojimo nevalstybiniais veikėjais … Turime užtikrinti, kad Demokratinės visuomenės būtų vadovaujamos AI, ir kad autoritarinės šalys to nenaudoja siekdamos nustatyti pasaulinį karinį dominavimą“.
Amodei paragino vyriausybes diegti savo išteklius, kad būtų galima įvertinti AI naudojimą, ir įgyvendinti politiką, skirtą „užtikrinti, kad visi labai galingos PG ekonominiai (pakilimai) dalijasi“. Jis taip pat teigė dėl didesnio vyriausybės skaidrumo, kai kalbama apie AI saugumą ir saugumą, taip pat planuoja įvertinti AI riziką.
Amodei įvertino Paryžiaus AI viršūnių susitikimo procesą, priešingai nei „Openai“, kuris šį savaitgalį pareiškė, kad buvo įsitikinusi, jog konferencija bus „dar vienas svarbus etapas atsakingam ir naudingam AI vystymuisi visiems“.
Anksčiau „Anthropic“ paprastai parodė daugiau atvirumą AI reguliavimui. Iš tikrųjų „Amodei“ anksčiau pateikė panašius pareiškimus, įspėdamas, kad nevaržomai AI galėjo turėti nepaprastai neigiamų ekonominių, visuomenės ir saugumo padarinių. „Anthropic“ buvo viena iš nedaugelio AI kompanijų, kurios tyliai patvirtino Kalifornijos SB 1047, išsamią ir karštai diskutuojamą – AI reguliavimo įstatymą. „Openai“ priešinosi įstatymo projektui, kurį praėjusį rudenį vetavo gubernatorius Gary Newsomas.
Tai nereiškia, kad „Anthropic“ motyvai yra grynai filantropiniai. Kaip ir „Openai“ generalinis direktorius Samas Altmanas savo naujausiame rašinyje, „Amodei“ nesiūlo jokių konkrečių rekomendacijų, kaip užtikrinti galingos AI naudą, jei ji atsirastų artimiausiu metu, yra plačiai ir tolygiai paskirstomi.
Perskaitykite visą mūsų dirbtinio žvalgybos veiksmo viršūnių susitikimą Paryžiuje.
