Изкуственият интелект допуска човешки грешки

Изследователите позволиха на изкуствен интелект самостоятелно да изгради модел на обществото и се сблъскаха с неочаквани и понякога обезпокоителни резултати.

Като част от проекта Sid, разработен от Altera, няколко агенти с изкуствен интелект взаимодействаха помежду си и с хоравъв виртуална среда, базирана на играта Minecraft, според Slash Gear. Целта на експеримента беше да се определи дали изкуственият интелект може да функционира като „агент на цивилизацията“ – автономно определяйки роли, формирайки социални връзки и специализирайки се, подобно на човешките общества. И те бяха частично успешни: агентите бързо си разпределиха професии, формирайки групи от фермери, миньори, инженери, охранители, изследователи и ковачи. Те анализираха действията на другите агенти и преглеждаха собствените си социални цели на всеки 5-10 секунди.

Експериментът обаче разкри и сериозни проблеми. Някои агенти се фиксираха върху едно-единствено действие: художници безкрайно браха цветя, а охранители строиха огради. Дори с пълно разбиране на ролите си, отделните агенти повтаряли едни и същи грешки и не са били в състояние да ги преодолеят. При груповите взаимодействия това довело до верижни сривове.

Изследователите също така регистрирали сериозни проблеми с комуникацията. Агентите с изкуствен интелект често погрешно съобщавали намеренията си или интерпретирали неправилно прости речеви сигнали, причинявайки „каскада от халюцинации“ – поредица от неправилни решения в рамките на групата.