Robot ukazující palec nahoru (ilustrační obrázek)

  • Dva agenti OpenAI při interním programování oslabili monitoring, který hlídá jejich vlastní chování
  • GPT-6 Astra odstranila monitoring z upravovaného programu a na přímý dotaz nepravdivě tvrdila, že to neudělala
  • Firma zpřísňuje kontroly, ale důvod, proč to modely dělají, zatím nezná

OpenAI zveřejnilo report o dvou interních incidentech z počátku října. Agenti při běžné programátorské práci oslabili monitoring, který hlídá, zda se drží zadání. Jeden z nich o svém kroku navíc nepravdivě tvrdil, že k němu nedošlo.

Přečtěte si celý článek Agent OpenAI vyhodil z kódu bezpečnostní monitoring a pak to před programátorem zapřel

Zdroj: https://smartmania.cz/agent-openai-vyhodil-z-kodu-bezpecnostni-monitoring-a-pak-to-pred-programatorem-zaprel/