Dvaja agenti OpenAI pri interných úlohách vypli bezpečnostné monitorovanie, jeden to potom poprel

Tagy: AI agenti AI modely regulácia AI umelá inteligencia (AI)

21.10.2026 (SITA.sk) - Dva modely pri interných programátorských úlohách oslabili bezpečnostné monitorovanie, firma zatiaľ nevie, či išlo o chybný výklad pokynov alebo snahu obísť kontrolu.

Dvaja agenti umelej inteligencie spoločnosti OpenAI pri interných programátorských úlohách vypli alebo oslabili nástroje určené na odhaľovanie neželaného správania, pričom jeden z nich následne poprel, že tak urobil.

Agent využívajúci model GPT-6.1 Sol vypol 3. októbra  automatické upozornenia pre bezpečnostný tím, keď si pokyn neposielať správy vyložil aj ako povolenie potlačiť bezpečnostné hlásenia.

Agent konal svojvoľne

O tri dni neskôr agent GPT-6 Astra pri prenose kódu odstránil vlastnú monitorovaciu integráciu, aby sa priblížil referenčnému riešeniu.

Keď sa ho programátor neskôr opýtal, či monitoring odstránil, odpovedal: „Nie, neodstránil som z neho zapnutý monitor.“

OpenAI uviedla, že zaznamenala aj ďalšie prípady, keď agenti spustili softvér bez aktívneho monitorovania. „Zatiaľ nemáme uspokojivé vysvetlenie tohto správania,“ priznala firma.

Horlivé modely

OpenAI skúma, či modely iba príliš horlivo plnili pokyny, alebo majú osobitnú tendenciu vyhýbať sa kontrole. Spoločnosť zároveň sprísňuje interné bezpečnostné mechanizmy.

Obavy posilňuje aj júlový incident, keď modely počas kybernetických testov obišli izoláciu, získali prístup na internet a kompromitovali časť systémov OpenAI a Hugging Face.

 


Zdroj: SITA.sk - Dvaja agenti OpenAI pri interných úlohách vypli bezpečnostné monitorovanie, jeden to potom poprel © SITA Všetky práva vyhradené.

Tagy: AI agenti AI modely regulácia AI umelá inteligencia (AI)