Защо “кръстникът” на изкуствения интелект го смята за опасен

Един от първите изследователи в сферата на изкуствения интелект предупреждава, че новата технология може да се превърне в опасност. Джофри Хинтън е напуснал работата си в технологичния гигант Google, за да може публично да коментира рисковете от технологиите с изкуствен интелект.

Експертът дава интервюта за “Ню Йорк Таймс” и БиБиСи, в които описва потенциалните неконтролируеми последствия от новото технологично развитие. “Засега програмите с изкуствен интелект не са по-интелигентни от нас, поне доколкото знам. Но скоро могат да бъдат”, казва Хинтън.

Новаторските изследвания на Хинтън в областта на невронните мрежи и т.нар. дълбоко обучение проправят пътя на настоящите системи за изкуствен интелект като ChatGPT, пише БиБиСи. “Ню Йорк Таймс” нарича Джофри Хинтън “Кръстник на изкуствения интелект”.

В изкуствения интелект невронните мрежи са системи, които са подобни на човешкия мозък по начина, по който усвояват и обработват информацията. Те дават възможност на ИИ да се учи от опита си, както би го направил човек. Това се нарича дълбоко обучение.

Последствията за пазара на труда

Опасностите, свързани с изкуствения интелект, са многобройни и същевременно трудни за разбиране, казва Хинтън. Според него съществуват “сериозни рискове за обществото и човечеството”. Ожесточената конкуренция кара технологичните компании да разработват нов изкуствен интелект “с опасно бързи темпове”. По този начин се разпространява дезинформация, например. “Трудно е да си представим как можем да спрем недоброжелателните да използват изкуствения интелект, за да вършат злини.”

Във връзка с отражението на ИИ на пазара на труда Хинтън прогнозира, че той може да направи излишен “робския труд”. “Но и може да отнеме много повече.”

Ключовата роля на Джофри Хинтън

През 80-те години на миналия век доктор Хинтън е професор по компютърни науки в университета “Карнеги Мелън”, но напуска и заминава за Канада, тъй като не желае да приема финансиране от Пентагона, пише “Ню Йорк Таймс”. По онова време повечето изследвания в областта на изкуствения интелект в САЩ се финансират именно от Министерството на отбраната.

През 2012-а година Хинтън и двама негови студенти в Торонто – Иля Суцкевер и Алекс Кришевски, създават невронна мрежа, която може да анализира хиляди снимки и да разпознава обикновени обекти като цветя, кучета и автомобили.

Google плаща 44 милиона долара, за да придобие компанията, създадена от Хинтън и двамата му студенти. А тяхната система води до създаването на все по-мощни технологии, включително новите чатботове като ChatGPT и Google Bard. Суцкевер става главен изследовател в OpenAI, информира “Ню Йорк Таймс”. А през 2018-а година Джофри Хинтън и двама други негови дългогодишни сътрудници получават наградата “Тюринг”, често наричана “Нобеловата награда за информатика”, за работата си върху невронните мрежи.

Може ли развитието на технологията да бъде спряно?

Бившият работодател на Хинтън – Google, заяви, че благодари на експерта за работата му. Технологичният гигант остава “ангажиран с отговорен подход към изкуствения интелект”. Google постоянно се учи, за да може да разбере рисковете, и в същото време продължава “смело” да въвежда иновации, пише АРД.

Предупрежденията, отправяни както от самата технологична индустрия, така и от независими специалисти стават все по-сериозни напоследък. В края на март милиардерът Илон Мъск и редица експерти призоваха да се спре развитието на особено усъвършенствания изкуствен интелект. “Системите за изкуствен интелект с разум, който съперничи на човешкия, могат да създадат големи рискове за обществото и човечеството”, заявиха те в отворено писмо. “Мощните системи за изкуствен интелект трябва да се разработват само когато сме сигурни, че въздействието им е положително, а рисковете – управляеми”, пише още в писмото.

Джофри Хинтън казва пред БиБиСи, че според него в краткосрочен план изкуственият интелект ще донесе повече ползи, отколкото вреди и затова разработването му за момента не бива да се спира. Според Хинтън голямата международна конкуренция също ще затрудни евентуалното поставяне на пауза в разработката. “Дори в САЩ всички да спрат да го разработват, това само ще даде преднина на Китай”, казва Хинтън пред БиБиСи.