Laurent Orseau, a Google Deep Mind csoportjának tagja és Stuart Armstrong, az Oxfordi Egyetem munkatársa egy vészhelyzeti megoldást dolgoztak ki a mesterséges intelligencián alapuló rendszerek számára. Az elképzelés lényege az, hogy bizonyos helyzetekben, amikor a mesterséges intelligencia ellenőrizhetetlenné vált, leállítható legyen.

A két kutató egy úgynevezett Kill Switch megoldást alkottak meg, hogy a mesterséges intelligencia vagy kijátszható, vagy teljesen deaktiválható legyen. Miután egyre több társaság – köztük a Google, a Facebook és a Microsoft – fejleszt mesterséges intelligenciára épülő rendszereket és szolgáltatásokat, ezért egyfajta vészhelyzeti megoldás léte nagyon is indokolt lehet a folyamatosan emberi felügyelet alatt álló rendszereknél. A fejlesztők számoltak azzal, hogy a gép idővel megtanulja, hogyan kell kikerülni a lekapcsolást.

A szakemberek szerint számos algoritmus működése megszakítható biztonságos módon, ugyanakkor vannak olyanok is, amelyeknél nem ez a helyzet, de azok is viszonylag egyszerűen módosíthatók, hogy lekapcsolhatóvá váljanak. Az viszont egyelőre tisztázatlan, hogy a biztonságos megszakítás minden jelenlegi algoritmusnál működne-e vagy sem. Laurent Orseau és Stuart Armstrong a Safely Interruptible Agents című anyagukban foglalták össze az elképzeléseiket. Az új keretrendszert a Google tulajdonában lévő londoni mesterséges intelligencia-kutató laboratórium alkotta meg, és a munkában besegítettek az Oxfordi Egyetem munkatársai is.

Doga

Forrás: www.sg.hu