Системите за изкуствено генериран текст, който дезинформира и психологически атакува обществото, много по-лесно ще засегнат по-поддаващата се на дезинформация част от обществото, казва Христо Грозев пред „Дойче веле“.
Какви са рисковете от спонсорираните от Кремъл и други тоталитарни държави дезинформационни кампании, както и от манипулираното съдържание, генерирано и разпространявано от изкуствен интелект?
– Моето мнение е, че технологично решение няма и няма да има скоро. Стават все по-неразличими както създадените от изкуствен интелект видеа, така и текстовият материал. За второто имам дори по-голямо притеснение. Мисля, че част от решението е да се създаде имунитет на обществото, който ще се появи от само себе си в близките години. Доверието във видео- и фотоматериалите, което засега е инстинктивно, ще започне да изчезва. И ще получим някакъв имунитет.
С текста е много по-страшно – програми като ChatGPT, но и такива, които не са ограничени от етичните граници на ChatGPT, т.е. са създадени специално за дезинформация, ще могат да да умножават в милиони пъти усилията на сегашните дезинформатори – т.нар. тролове, които са необходима част от дезинформационната екосистема. Създаването на адаптиран текст, за да участва в определена дискусия, да дезинформира и психологически да атакува част от обществото в режим „1 към 1“, ще бъде абсолютно възможно.
Системите на изкуствено генериран текст работят на принципа на регенериране на стари идеи, те много по-лесно ще засегнат по-слабата и по-лесно поддаващата се на дезинформация част от обществото, за която няма да има никакъв начин да различава това общуване от естествено. Така че тези, които най-лесно се манипулират по време на избори, ще бъдат още по-лесно манипулируеми.
Фалшивите текстове могат да бъдат разпознавани
И тук единственото решение е да се принудят големите компании, които стоят зад изкуствения интелект, който публично създава възможности за генериране на текст, да внесат някаква система на разпознаваемост на тези фалшиви текстове. Това е възможно, това се прави. Ако аз напиша един кратък разказ чрез система за изкуствен интелект, колкото и красив да е, той може да бъде с над 90% вероятност идентифициран като такъв.
Това означава да искаме взаимодействие между големите компании и медиите, които на своите платформи ще могат да различат такъв генериран текст и да го маркират като такъв. Този път предстои пред нас в близките 1-2 години.“
www.dnevnik.bg
Последни коментари