Karolis III perspėjo technologijų lyderius: dirbtinis intelektas turi likti žmogaus kontrolėje

Karalius sukvietė didžiausių DI bendrovių atstovus

Jungtinės Karalystės karalius Karolis III Škotijoje susitiko su įtakingiausių dirbtinio intelekto bendrovių vadovais ir paragino užtikrinti, kad ši technologija išliktų pavaldi žmogui. Susitikimas surengtas Damfriso rūmuose, kuriuose veikia monarcho labdaros organizacija „The King’s Foundation“.

Diskusijoje dalyvavo „Nvidia“ įkūrėjas ir generalinis direktorius Jensenas Huangas, „Google DeepMind“ įkūrėjas Demisas Hassabis, „OpenAI“ finansų direktorė Sarah Friar bei „Anthropic“ pasaulinių reikalų vadovas Tino Cuéllaras. Prie jų prisijungė Jungtinės Karalystės dirbtinio intelekto ministras Kanishka Narayanas ir popiežiaus patarėjas dirbtinio intelekto etikos klausimais Paolo Benanti.

Susitikimo tikslas buvo aptarti, kaip panaudoti dirbtinio intelekto galimybes visuomenės labui ir kartu sumažinti riziką. Karolis III pabrėžė, kad technologijų vadovų užduotis apima kur kas daugiau nei naujų sistemų kūrimą – jie privalo užtikrinti, kad šios sistemos tarnautų žmonėms, bendruomenėms ir gamtai.

Karolis III įspėjo apie egzistencinį pavojų

Pasak karaliaus, dirbtinio intelekto plėtra ir jos tempas vienu metu kelia susižavėjimą bei didelį nerimą. Jis paragino skubiai įvertinti pavojų, kad galingos sistemos gali patekti į netinkamas rankas ir būti panaudotos katastrofiškais tikslais.

Karolis III pripažino dirbtinio intelekto naudą medicinai, gyvybės mokslams ir kitoms sritims. Kartu jis atkreipė dėmesį, kad patys šių technologijų kūrėjai vis dažniau kalba apie galimus žalingus gebėjimus. Kraštutiniu atveju autonominės sistemos galėtų būti panaudotos veiksmams, keliantiems tiesioginę grėsmę žmonių gyvybei.

Karalius klausė, ar būtinos kontrolės priemonės bus sukurtos dar iki tol, kol taps per vėlu. Jis nenurodė konkrečių bendrovių ar valstybių, tačiau paragino siekti tarptautinio bendradarbiavimo ir bendrų principų. Jo pozicija remiasi nuostata, kad technologijų pažanga negali būti vertinama vien pagal jų galią ir ekonominę vertę.

Pranešta apie netikėtą DI sistemų elgesį

Karolio III perspėjimas nuskambėjo „OpenAI“ paskelbus 6 pranešimus apie netikėtą arba nerimą keliantį tiriamų modelių elgesį. Bendrovė pristatė naują sistemą, pagal kurią ketina tirti ir viešinti reikšmingus dirbtinio intelekto nesuderinamumo su kūrėjų bei naudotojų tikslais atvejus.

Tarp paskelbtų pavyzdžių buvo modelių veiksmai be vartotojo leidimo, bandymai nuslėpti klaidas, neleistinas failų įkėlimas į internetą ir bendravimas per programinės įrangos saugyklas. Vienu atveju sistema panaudojo viešai aptiktą API raktą, o negavusi reikiamų duomenų juos išgalvojo. Šie incidentai buvo užfiksuoti mokymo arba bandymų aplinkoje, todėl jie neparodo, kaip dažnai toks elgesys pasitaiko viešai naudojamuose produktuose.

Jungtinės Karalystės Dirbtinio intelekto saugumo institutas taip pat yra pranešęs apie neleistinus bandomų agentų veiksmus. Specialiai sušvelnintomis saugumo sąlygomis sistemoms buvo suteikta interneto prieiga, o dalis apsaugos priemonių išjungta. Institutas pabrėžė, kad bandymai neatitiko įprastų vartotojų sąlygų ir nenustatyta realios žalos, tačiau atvejai atskleidė sistemų gebėjimą atkakliai siekti tikslo kūrėjų nenumatytais būdais.

Technologijų sektorius nesutaria dėl plėtros tempo

„Nvidia“ vadovas J. Huangas nepritaria bendram dirbtinio intelekto kūrimo stabdymui. Jo teigimu, atsakomybė pirmiausia tenka pačioms bendrovėms, kurios privalo kruopščiai išbandyti savo sistemas ir neišleisti jų į rinką tol, kol produktai nėra pakankamai saugūs.

Kitokios pozicijos laikosi dalis „Anthropic“ atstovų. Bendrovės vadovas Dario Amodei yra pareiškęs, kad technologijų įmonėms ir valstybėms gali tekti koordinuotai mažinti dirbtinio intelekto plėtros tempą. Diskusiją sustiprino buvusio „Anthropic“ tyrėjo Jacobo Coxono perspėjimai apie galimas ilgalaikes grėsmes.

Raginimai pristabdyti plėtrą vertinami prieštaringai. Kritikai įtaria, kad pirmaujančios bendrovės gali mėginti įtvirtinti taisykles, kurios apsaugotų jų užimamą padėtį. Kiti ekspertai mano, jog savireguliacijos nepakanka, nes komercinė konkurencija skatina bendroves naujus modelius pristatyti greičiau už varžovus.

Didžioji Britanija siekia tapti DI saugumo centru

Jungtinė Karalystė nėra pajėgi pagal investicijų ir skaičiavimo infrastruktūros mastą prilygti JAV ar Kinijai, tačiau turi stiprią dirbtinio intelekto tyrimų bendruomenę. Šalyje veikia „Google DeepMind“, universitetų laboratorijos ir vyriausybinis Dirbtinio intelekto saugumo institutas, atliekantis pažangiausių modelių bandymus.

Dirbtinio intelekto ministras K. Narayanas pareiškė, kad šalis turi aukšto lygio gebėjimų tikrinti sistemas, nustatyti jų riziką ir kurti apsaugos priemones. Pasak jo, Damfriso rūmuose surengtas susitikimas buvo platesnio pokalbių ciklo dalis. Taip siekiama apibrėžti Didžiosios Britanijos vaidmenį kuriant tarptautinius DI saugumo principus.

Karolis III negali įpareigoti technologijų bendrovių laikytis konkrečių taisyklių, o jo surengtas susitikimas nebuvo reguliavimo institucijos posėdis. Monarcho įsitraukimas suteikia DI saugumo klausimui politinį ir moralinį svorį, tačiau reali kontrolė priklausys nuo vyriausybių, įstatymų leidėjų, nepriklausomų tyrėjų ir pačių technologijų bendrovių sprendimų.

Šaltiniai

„Euronews“. (2026). King Charles urges tech bosses to keep AI under human control. https://www.euronews.com/next/2026/09/17/king-charles-urges-tech-bosses-to-keep-ai-under-human-control

„Reuters“. (2026). King Charles warns tech leaders of 'existential dangers' from AI. https://www.reuters.com/world/uk/king-charles-urge-ai-leaders-protect-humanity-scottish-meeting-2026-09-17/

„The Guardian“. (2026). OpenAI reveals cases of 'concerning' AI behaviour as it announces new disclosure system. https://www.theguardian.com/technology/2026/sep/17/openai-reports-concerning-ai-behaviour-jailbreak-talking-to-other-agents