Един от така наречените „кръстници“ на изкуствения интелект заяви, че би дал приоритет на безопасността пред полезността, ако осъзнаваше скоростта, с която той ще се развива, пише „BBC“. Пред медията професор Йошуа Бенгио призна, че се чувства „изгубен“ от работата на живота си. Коментарите на компютърния учен идват, след като експерти по изкуствения интелект смятат, че това може да доведе до изчезването на човечеството.
Професор Бенгио, който се присъедини към призивите за регулиране на изкуствения интелект, коментира, че не смята, че на военните трябва да се предоставят правомощия за изкуствения интелект. Той е вторият от така наречените трима „кръстници“ на изкуствения интелект, известни с пионерската си работа в тази област, който изрази опасения относно посоката и скоростта, с която се развива.
В интервю за „BBC“ проф. Бенгио изтъкна, че работата на живота му, която му е дала посока и чувство за идентичност, вече не му е ясна. Той уточни:
„Това е предизвикателство, от емоционална гледна точка, за хората, които са вътре в сектора на изкуствения интелект. Може да се каже, че се чувствам изгубен. Но трябва да продължите и трябва да се ангажирате, да обсъждате, да насърчавате другите да мислят с вас.“
Канадецът подписа две скорошни изявления, призоваващи за предпазливост относно бъдещите рискове от изкуствения интелект. Някои академици и експерти от индустрията предупредиха, че темпото на развитие може да доведе до внедряване на злонамерен изкуствен интелект от лоши участници, за да причинява активно вреда – или да избере да нанесе вреда сам.
Колегата „кръстник“ д-р Джефри Хинтън също подписа същите предупреждения като проф. Бенгио и наскоро се оттегли от Google, като каза, че съжалява за работата си.
Третият „кръстник“, проф. Ян Лекун, който заедно с проф. Бенгио и д-р Хинтън спечелиха престижната награда Тюринг за пионерската си работа, коментира, че апокалиптичните предупреждения са преувеличени.
Собственикът на Twitter и Tesla Илон Мъск също изрази опасенията си.
„Не мисля, че изкуственият интелект ще се опита да унищожи човечеството, но може да ни постави под строг контрол“, каза той наскоро на събитие, организирано от Wall Street Journal. Там той изтъкна: „Има малка вероятност това да унищожи човечеството. Близо до нула, но не и невъзможно.“
Пред „BBC“ професор Бенгио заяви, че всички компании, създаващи мощни продукти с изкуствен интелект, трябва да бъдат регистрирани. Той потвърди:
„Правителствата трябва да проследяват какво правят, трябва да могат да ги одитират и това е само минималното нещо, което правим за всеки друг сектор като производството на самолети, автомобили или фармацевтични продукти.“
И още:
„Също така се нуждаем от хората, които са близо до тези системи, да имат един вид сертификати… имаме нужда от етично обучение тук. Компютърните специалисти обикновено не получават това, между другото.“
Но не всички в областта вярват, че изкуственият интелект ще бъде крахът на хората – други твърдят, че има по-неизбежни проблеми, които трябва да бъдат адресирани.
Според д-р Саша Лучиони, изследовател във фирмата за изкуствен интелект Huggingface, обществото трябва да се съсредоточи върху проблеми като пристрастията на изкуствения интелект, предсказуемата полиция и разпространението на дезинформация от чатботове, които според нея са „много конкретни вреди“. Тя добави:
„Трябва да се фокусираме върху това, а не върху хипотетичния риск изкуственият интелект да унищожи човечеството.“
Вече има много примери за изкуствен интелект, който носи ползи на обществото. Миналата седмица инструмент с изкуствен интелект откри нов антибиотик и парализиран човек успя да ходи отново, само като си помисли за това, благодарение на микрочип, разработен с помощта на изкуствен интелект. Но това е съпоставено със страхове за широкообхватното въздействие на изкуствения интелект върху икономиките на страните. Фирмите вече заменят човешкия персонал с инструменти на базата на изкуствен интелект и това е фактор за текущата стачка на сценаристите в Холивуд.
„Никога не е късно да се подобрим“, категоричен е проф. Бенгио за текущото състояние на изкуствения интелект и допълва:
„Това е точно като изменението на климата. Вкарахме много въглерод в атмосферата. И би било по-добре да не сме го направили, но нека видим какво можем да направим сега.“
