Фалшивата и подвеждаща информация, заредена с най-съвременния изкуствен интелект, която заплашва да подкопае демокрацията и да поляризира обществото, е най-големият непосредствен риск за световната икономика, се казва в доклад на Световния икономически форум от сряда, предава „Асошиейтед прес“.
В последния си доклад за глобалните рискове организацията посочва също така, че редица екологични рискове представляват най-голямата заплаха в дългосрочен план. Докладът беше публикуван преди ежегодната елитна среща на изпълнителни директори и световни лидери в швейцарския ски курорт Давос и се основава на проучване сред близо 1500 експерти, лидери в индустрията и политици.
Докладът посочва дезинформацията и дезинформацията като най-сериозния риск през следващите две години, като подчертава как бързият напредък в технологиите също създава нови проблеми или влошава съществуващите.
Авторите се опасяват, че бумът на чатботовете с генеративен изкуствен интелект като ChatGPT означава, че създаването на сложно синтетично съдържание, което може да се използва за манипулиране на групи от хора, вече няма да се ограничава само до хората със специализирани умения.
Изкуственият интелект ще бъде гореща тема следващата седмица на срещите в Давос, на които се очаква да присъстват шефове на технологични компании, сред които главният изпълнителен директор на OpenAI Сам Алтман, главният изпълнителен директор на Microsoft Сатя Надела и играчи от индустрията на изкуствения интелект като главния учен по изкуствения интелект на Meta Ян Лекун.
В доклада се посочва, че дезинформацията и дезинформацията, задвижвани от изкуствен интелект, се превръщат в риск точно в момента, в който милиарди хора в редица държави, включително големи икономики като САЩ, Великобритания, Индонезия, Индия, Мексико и Пакистан, ще отидат до урните тази и следващата година. Каролина Клинт, ръководител на отдела за управление на риска в Marsh, чиято компания майка Marsh McLennan е съавтор на доклада заедно с Zurich Insurance Group, споделя:
„Можете да използвате изкуствения интелект, за да правите дълбоки фалшификати и наистина да въздействате върху големи групи, което наистина стимулира дезинформацията.“
Според нея „обществата могат да се поляризират още повече“, тъй като за хората ще бъде по-трудно да проверяват фактите. Фалшивата информация може да бъде използвана и за подклаждане на въпроси относно легитимността на избраните правителства. Клинт поясни:
„Това означава, че демократичните процеси могат да бъдат подкопани, а това ще доведе и до още по-голяма поляризация на обществото.“
Според нея възходът на изкуствения интелект води до редица други рискове. Той може да даде възможност на „злонамерените участници“, като улесни извършването на кибератаки, например чрез автоматизиране на опитите за фишинг или създаване на усъвършенстван зловреден софтуер.
Според Клинт помощта на изкуствения интелект не е необходимо да сте най-острият инструмент в кошарата, за да сте злонамерен участник. Тя подчерта:
„Той дори може да отрови данни, които са иззети от интернет, за да обучава други системи за ИИ, което е невероятно трудно да се обърне и може да доведе до допълнително вграждане на предубеждения в моделите на изкуствения интелект.“
Другата голяма глобална загриженост за респондентите на проучването на риска е съсредоточена върху изменението на климата. След дезинформацията и дезинформацията екстремните метеорологични условия са вторият най-належащ краткосрочен риск. В дългосрочен план – определен като 10 години – екстремното време е описано като заплаха № 1, следвана от четири други риска, свързани с околната среда: критична промяна на земните системи; загуба на биоразнообразие и разрушаване на екосистемите; недостиг на природни ресурси. Клинт коментира:
„През следващото десетилетие може да бъдем тласнати отвъд необратимата критична точка на климатичните промени.“
Обяснението според нея е, че системите на Земята претърпяват дългосрочни промени.
