Näin ajatte tekoälyagentteja turvallisesti

Perusperiaatteet

• Vähimmät mahdolliset oikeudet jokaiselle agentille
• Tiedon ja ohjeiden erottaminen
• Rajat vaiheille, ajalle ja kustannuksille
• Peruuttamattomien toimien hyväksyntä
• Täydellinen jälki tilaajan identiteetteineen

Ohjeiden injektointi

Ulkopuolinen sisältö – sähköpostit, verkkosivut, asiakirjat – voi sisältää agentille suunnattuja ohjeita. Käsittele sitä datana, rajaa työkalut tehtävissä, jotka perustuvat tällaiseen sisältöön, ja vaadi hyväksyntä toimille, jotka voisivat paljastaa tietoja tai muuttaa jotain.

Testaus ennen tuotantoa

Testiaineiston on katettava tavalliset tapaukset, rajatapaukset ja väärinkäyttöyritykset. Testit toistetaan aina, kun mallia, ohjeita tai työkaluja muutetaan, ja tulokset tallennetaan, jotta muutoksia voi verrata ajan mittaan.

Häiriöiden hallinta

Agentti tai työkalu on voitava pysäyttää välittömästi. Sen jälkeen lokit turvataan, vaikutus arvioidaan ja henkilötietojen tietoturvaloukkauksesta ilmoitetaan tietosuojavaltuutetun toimistolle tietosuoja-asetuksen edellyttämässä ajassa. Agentti käynnistetään uudelleen vasta korjauksen ja uusien testien jälkeen.

Oikeuksien katselmointi

Tarkista neljännesvuosittain, tarvitsevatko agentit yhä oikeutensa, onko niillä omistaja ja onko käyttämättömät agentit poistettu käytöstä.

Vaatimukset toimittajille

Kysy agenttialustojen toimittajilta, missä tietoja ja lokeja käsitellään, miten lähdejärjestelmien oikeudet säilyvät, voiko työkalukutsuja rajata agenttikohtaisesti ja kuinka nopeasti agentin voi pysäyttää häiriötilanteessa.