Появата на генеративни инструменти за изкуствен интелект, които позволяват на хората ефективно да създават нови и подробни онлайн отзиви почти без никаква работа, постави търговците, доставчиците на услуги и потребителите в неизследвана територия, твърдят групи за наблюдение и изследователи, предава „Асошиейтед прес“.
Фалшивите отзиви отдавна тормозят много популярни потребителски уебсайтове, като Amazon и Yelp. Обикновено те се търгуват в частни групи в социалните медии между брокери на фалшиви рецензии и фирми, които са готови да платят. Понякога такива отзиви се инициират от фирми, които предлагат на клиентите си стимули като карти за подарък за положителни отзиви.
Според експерти от технологичния бранш обаче инструментите за генериране на текст с помощта на изкуствен интелект, популяризирани от ChatGPT на OpenAI, позволяват на измамниците да създават отзиви по-бързо и в по-голям обем. Тази измамна практика, която е незаконна в САЩ, се прилага целогодишно, но се превръща в по-голям проблем за потребителите по време на сезона на празничното пазаруване, когато много хора разчитат на отзивите, за да им помогнат да закупят подаръци.
Къде се появяват отзиви, генерирани от изкуствен интелект?
Фалшиви отзиви се срещат в широк спектър от отрасли – от електронна търговия, хотелиерство и ресторанти до услуги като ремонт на дома, медицински грижи и уроци по пиано.
The Transparency Company, технологична компания и група за наблюдение, която използва софтуер за откриване на фалшиви отзиви, заяви, че е започнала да вижда, че отзиви, генерирани от изкуствен интелект, се появяват в голям брой в средата на 2023 г. и оттогава те се умножават.
За доклада, публикуван този месец, The Transparency Company анализира 73 милиона отзива в три сектора: битови, правни и медицински услуги. Близо 14% от отзивите вероятно са били фалшиви, а компанията изрази „висока степен на увереност“, че 2,3 млн. отзива са били частично или изцяло генерирани от изкуствен интелект.
„Това е просто един много, много добър инструмент за тези измамници с ревюта“, изтъкна Мори Блекман, инвеститор и съветник на технологични стартъпи, който е прегледал работата на The Transparency Company и ще ръководи организацията от 1 януари.
През август софтуерната компания DoubleVerify заяви, че наблюдава „значително увеличение“ на приложенията за мобилни телефони и смарт телевизори с ревюта, изготвени от генеративен изкуствен интелект. Отзивите често са били използвани за заблуждаване на клиентите да инсталират приложения, които могат да превземат устройствата или да пускат постоянно реклами, заяви компанията.
През следващия месец Федералната търговска комисия заведе дело срещу компанията, която стои зад инструмент за писане на текстове и генериране на съдържание с изкуствен интелект, наречен Rytr, като я обвини, че предлага услуга, която може да замърси пазара с фалшиви ревюта.
ФТК, която тази година забрани продажбата или закупуването на фалшиви отзиви, заяви, че някои от абонатите на Rytr са използвали инструмента, за да създадат стотици, а може би и хиляди отзиви за фирми за ремонт на гаражни врати, продавачи на дизайнерски чанти „реплики“ и други фирми.
Вероятно е да се използва и в известни онлайн сайтове
Макс Сперо, главен изпълнителен директор на компанията за откриване на изкуствен интелект Pangram Labs, заяви, че софтуерът, който използва неговата компания, е открил почти със сигурност, че някои оценки, генерирани от изкуствен интелект, публикувани в Amazon, са изплували на върха на резултатите от търсенето на ревюта, защото са били много подробни и са изглеждали добре обмислени.
Но определянето на това кое е фалшиво и кое не може да бъде предизвикателство. Външните страни могат да не успеят да се справят, защото нямат „достъп до сигнали за данни, които показват модели на злоупотреба“, заявиха от Amazon.
Pangram Labs е извършила откриването за някои известни онлайн сайтове, които Spero отказа да назове поради споразумения за неразкриване на информация. Той заяви, че е направил независима оценка на Amazon и Yelp.
Много от коментарите, генерирани от изкуствен интелект в Yelp, изглежда са публикувани от лица, които се опитват да публикуват достатъчно ревюта, за да получат значка „Елит“, която има за цел да уведоми потребителите, че трябва да се доверят на съдържанието, подчерта Сперо.
Значката осигурява достъп до ексклузивни събития със собственици на местен бизнес. Измамниците също така я искат, за да могат профилите им в Yelp да изглеждат по-реалистични, казва Кей Дийн, бивш федерален криминален следовател, който ръководи група за наблюдение, наречена Fake Review Watch.
За да сме сигурни, че това, че даден отзив е генериран от изкуствен интелект, не означава непременно, че е фалшив. Някои потребители могат да експериментират с инструменти за изкуствен интелект, за да генерират съдържание, което отразява истинските им чувства. Някои потребители, за които английският език не е майчин, казват, че се обръщат към изкуствения интелект, за да се уверят, че използват точен език в ревютата, които пишат. Професорът по маркетинг в Мичиганския държавен университет Шери Хе, която е изследвала фалшивите прегледи, заяви:
„Това може да помогне за прегледите и да ги направи по-информативни, ако са направени с добри намерения.“
Тя казва, че технологичните платформи трябва да се съсредоточат върху поведенческите модели на лошите актьори, което известните платформи вече правят, вместо да обезкуражават законните потребители да се обръщат към инструментите на изкуствения интелект.
Какво правят компаниите
Известни компании разработват политики за това как генерираното от изкуствен интелект съдържание се вписва в техните системи за премахване на фалшиви или обидни отзиви. Някои от тях вече използват алгоритми и разследващи екипи за откриване и премахване на фалшиви отзиви, но дават на потребителите известна гъвкавост при използването на изкуствен интелект.
Говорители на Amazon и Trustpilot например заявиха, че ще позволят на клиентите да публикуват отзиви, подпомагани от изкуствен интелект, стига те да отразяват техния истински опит. Yelp възприе по-предпазлив подход, заявявайки, че нейните насоки изискват рецензентите сами да пишат своите коментари. В изявление на компанията се казва:
„С неотдавнашното нарастване на възприемането от потребителите на инструменти с изкуствен интелект, Yelp инвестира значително в методи за по-добро откриване и смекчаване на подобно съдържание в нашата платформа.“
Коалицията за надеждни отзиви, която Amazon, Trustpilot, сайтът за отзиви за работа Glassdoor и сайтовете за пътувания Tripadvisor, Expedia и Booking.com стартираха миналата година, заяви, че въпреки че измамниците могат да използват изкуствен интелект за незаконни цели, технологията също така предоставя „възможност да се даде отпор на тези, които се стремят да използват отзивите, за да заблуждават другите“. Групата изтъква:
„Чрез споделяне на най-добрите практики и повишаване на стандартите, включително чрез разработване на усъвършенствани системи за откриване на изкуствен интелект, можем да защитим потребителите и да запазим целостта на онлайн отзивите.“
Правилото на ФТК за забрана на фалшивите отзиви, което влезе в сила през октомври, позволява на агенцията да налага глоби на предприятия и физически лица, които се занимават с тази практика. Технологичните компании, които са домакини на такива ревюта, са защитени от санкцията, тъй като съгласно законодателството на САЩ те не носят правна отговорност за съдържанието, което външни лица публикуват на техните платформи.
Технологичните компании, включително Amazon, Yelp и Google, са подали искове срещу брокери на фалшиви ревюта, които обвиняват, че разпространяват фалшиви ревюта на техните сайтове. Компаниите твърдят, че техните технологии са блокирали или премахнали огромна част от съмнителните ревюта и подозрителните акаунти. Според някои експерти обаче те биха могли да направят повече.
„Досегашните им усилия не са достатъчни“, казва Дийн от Fake Review Watch и допълва:
„Ако тези технологични компании са толкова ангажирани с премахването на измамите с ревюта в своите платформи, защо аз, един човек, който не работи с никаква автоматизация, мога да открия стотици или дори хиляди фалшиви ревюта във всеки един ден?“
Открития за фалшиви прегледи, генерирани от изкуствен интелект
Според изследователите потребителите могат да се опитат да разпознаят фалшивите отзиви, като внимават за няколко възможни предупредителни знака. Прекалено ентусиазираните или отрицателни отзиви са червени знамена. Жаргонът, който повтаря пълното име на продукта или номера на модела, е друго потенциално предупреждение.
Когато става въпрос за изкуствен интелект, изследване, проведено от Балаш Ковач, професор по организационно поведение в Йейл, показва, че хората не могат да направят разлика между ревюта, генерирани от изкуствен интелект, и такива, написани от хора. Някои детектори на изкуствен интелект могат да бъдат заблудени и от по-кратките текстове, които са често срещани в онлайн ревютата, се казва в проучването.
Въпреки това има някои „AI tells“, които онлайн купувачите и търсещите услуги трябва да имат предвид. Panagram Labs казва, че ревютата, написани с помощта на изкуствен интелект, обикновено са по-дълги, силно структурирани и включват „празни дескриптори“, като общи фрази и атрибути. Написаното също така има тенденция да включва клишета като „първото нещо, което ме порази“ и „променя играта“.
Пътуване между Ню Йорк и Лондон за 54 минути: Фантастика или бъдеще?
