«Хрещений батько ІІ» Джеффрі Хінтон звільнився з Google, розкритикував компанію за неетичність — і т
19:37, 7 травня 2023
Джерело: Meduza
У числі тих, хто відкрито ставив питання про етичність використання ChatGPT, з самого початку був розробник нейромереж, британо-канадський вчений Джеффрі Хінтон. Він вніс значний внесок у розвиток чат-ботів зі штучним інтелектом, але за останні місяці перетворився на принципового противника необачного застосування ІІ. Навесні 2023 року він залишив компанію Google. «Медуза» розповідає про те, за що Хінтона прозвали «хрещеним батьком ІІ» і чому він так критикує технології, які ще недавно допомагав створювати.
Хінтон пішов з Google і виступив проти чат-ботів, тому що через них звичайні люди «більше не знатимуть, де правда»
У 2012 році професор Університету Торонто Джеффрі Хінтон і двоє його студентів розробили систему, яка могла аналізувати тисячі знімків. навчати саму себе розпізнавати в реальності схожі об'єкти - наприклад, квіти, тварин або автомобілі - з безпрецедентною точністю. Після видатного досягнення Хінтон та його учні Ілля Суцкевер і Алекс Крижевський продовжили дослідження — а компанію, в якій вони працювали над нейромережами, придбала Google. Саме розробки британського професора та двох студентів прискорили впровадження ІІ і привели до появи ChatGPT (https://meduza.io/feature/2022/12/18/neyroset-chatgpt-otvechaet-na-slozhnye-voprosy -kod-poka-ne-idealno-i-dazhe-knigi), Google Bard (https://meduza.io/feature/2023/02/14/microsoft-i-google-sorevnuyutsya-kto-bystree-vstroit-v -svoy-poiskovik-umnogo-chat-bota) і інших чат-ботів.
У 2018-му Хінтон одержав (https://www.nytimes.com/2019/03/27/technology/turing-award-ai.html) премію імені Алана Т'юрінга з формулюванням «за концептуальні та інженерні прориви, що зробили прориви, що зробили компонентом у обчислювальній техніці». Через п'ять років вчений різко змінив погляди на ІІ, залишив Google і 1 травня дав інтерв'ю (https://www.nytimes.com/2023/05/01/technology/ai-google-chatbot-engineer-quits-hinton.html ) The New York Times (NYT), в якому висловився про небезпеку в цій сфері. Головна загроза чат-ботів та інших подібних технологій, на думку Хінтона, полягає в тому, що інтернет так сильно наповниться фейковим контентом — згенерованими фотографіями, відео та текстами, що звичайні люди «більше не знатимуть, де правда».
Вчений також висловив побоювання, що ІІ-технології з часом перетворяться з помічників людей на їхню заміну і залишать представників багатьох професій без роботи. «Деякі люди вірили, що технології можуть стати розумнішими, ніж ми, але більшість вважала це перебільшенням, - сказав Хінтон в інтерв'ю NYT. —Я теж думав, що до цього ще далеко. Я думав, що нам залишається до цього від 30 до 50 років або навіть більше. Очевидно, я більше так не вважаю».
Хінтон розвивав ідеї Тьюринга і мріяв створити штучну систему, яка навчалася би, як людський мозок
Хінтон народився в 1947 році в сім'ї шановного ентомолога, яка жила в Уімблдоні (передмісті Лондона). Його прадід Джордж Буль розробив математичну логіку, а названа на його честь Булева алгебра (https://function-x.ru/buleva_algebra.html) заклала основи для багатьох технологій, що отримали розвиток в інформаційну еру.
До розчарування батька Джеффрі вирішив вивчати не комах, а людей. У 1970-му він закінчив Кембриджський університет за спеціальністю «експериментальна психологія», але потім узяв паузу в академічній діяльності і цілий рік займався столярною справою. «Наука втомила мене, і я вирішив, що хочу бути теслею», пояснював (https://www.nytimes.com/2017/06/23/world/canada/the-man-who-helped-turn-toronto- into-a-high-tech-hotbed.html) Хінтон. У 1972 році Джеффрі зацікавився програмою зі штучного інтелекту в Единбурзькому університеті, залишив мрію про кар'єру тесляра і переїхав до Шотландії. Там він занурився в розробку нейронних мереж.
«Тоді в цю ідею не вірила жодна людина на землі, розповідав (https://news.sky.com/story/the-story-of-the-british-godfather-of-ai-whos-not-sat- down-since-2005-12249571) Хінтон. — Вона вважалася глухим кутом навіть серед дослідників ІІ».
Однак розробки молодого британця привернули увагу групи когнітивних психологів із Сан-Дієго. Хінтон відправився в США і почав досліджувати метод зворотного розповсюдження помилки — алгоритм, який дозволяв нейронним мережам навчатись та удосконалюватись. Пізніше методи, у створенні яких Хінтон взяв активну участь, назвали глибоким навчанням. Вони дозволяли ІІ не тільки виконувати конкретні дії в рамках одного алгоритму, але і розширювати свої можливості за допомогою зовнішніх даних.
«Ідея полягала в тому, щоб отримати пристрій, який навчався би так, як навчається мозок, розповідав (https://www.wired.com/story/ai-pioneer-explains-evolution-neural-networks/) Хінтон. — Це була не моя ідея, про те ж думав Алан Т'юрінг. Він вважав, що мозок є неорганізованою машиною, яка використовує навчання з підкріпленням (спосіб машинного навчання, коли система навчається, взаємодіючи з средою, — прим. „Медузи“), щоб змінювати зв'язки всередині себе, і яка здатна навчитися чого завгодно. Він вважав, що це найкращий підхід до вивчення інтелекту».
Прагнення розробити систему, яка могла б навчатися так, як людський мозок, визначило всю кар'єру Хінтона. В кінці 1970-х і в 1980-х він активно намагався створити алгоритми, здатні розпізнавати звуки і зображення. Ключову роль у проектах вчених того часу грали внутрішні уявлення, тобто інформаційні структури, які сприймаюча система створює і зберігає як комбінації якостей, властивих зовнішнім об'єктам.
«Питання про те, як створювати внутрішні уявлення, вважалося святим Граалем досліджень ІІ»,— пояснив (https://www.nytimes.com/2017/06/23/world/canada/the-man-who-helped-turn- toronto-into-a-high-tech-hotbed.html) Хінтон. Однак комп'ютери півстоліття тому не мали достатньої швидкості, щоб генерувати внутрішні уявлення так швидко, як людський мозок.
Вчений також висловив побоювання, що ІІ-технології з часом перетворяться з помічників людей на їхню заміну і залишать представників багатьох професій без роботи. «Деякі люди вірили, що технології можуть стати розумнішими, ніж ми, але більшість вважала це перебільшенням, - сказав Хінтон в інтерв'ю NYT. —Я теж думав, що до цього ще далеко. Я думав, що нам залишається до цього від 30 до 50 років або навіть більше. Очевидно, я більше так не вважаю».
Хінтон розвивав ідеї Тьюринга і мріяв створити штучну систему, яка навчалася би, як людський мозок
Хінтон народився в 1947 році в сім'ї шановного ентомолога, яка жила в Уімблдоні (передмісті Лондона). Його прадід Джордж Буль розробив математичну логіку, а названа на його честь Булева алгебра (https://function-x.ru/buleva_algebra.html) заклала основи для багатьох технологій, що отримали розвиток в інформаційну еру.
До розчарування батька Джеффрі вирішив вивчати не комах, а людей. У 1970-му він закінчив Кембриджський університет за спеціальністю «експериментальна психологія», але потім узяв паузу в академічній діяльності і цілий рік займався столярною справою. «Наука втомила мене, і я вирішив, що хочу бути теслею», пояснював (https://www.nytimes.com/2017/06/23/world/canada/the-man-who-helped-turn-toronto- into-a-high-tech-hotbed.html) Хінтон. У 1972 році Джеффрі зацікавився програмою зі штучного інтелекту в Единбурзькому університеті, залишив мрію про кар'єру тесляра і переїхав до Шотландії. Там він занурився в розробку нейронних мереж.
«Тоді в цю ідею не вірила жодна людина на землі, розповідав (https://news.sky.com/story/the-story-of-the-british-godfather-of-ai-whos-not-sat- down-since-2005-12249571) Хінтон. — Вона вважалася глухим кутом навіть серед дослідників ІІ».
Однак розробки молодого британця привернули увагу групи когнітивних психологів із Сан-Дієго. Хінтон відправився в США і почав досліджувати метод зворотного розповсюдження помилки — алгоритм, який дозволяв нейронним мережам навчатись та удосконалюватись. Пізніше методи, у створенні яких Хінтон взяв активну участь, назвали глибоким навчанням. Вони дозволяли ІІ не тільки виконувати конкретні дії в рамках одного алгоритму, але і розширювати свої можливості за допомогою зовнішніх даних.
«Ідея полягала в тому, щоб отримати пристрій, який навчався би так, як навчається мозок, розповідав (https://www.wired.com/story/ai-pioneer-explains-evolution-neural-networks/) Хінтон. — Це була не моя ідея, про те ж думав Алан Т'юрінг. Він вважав, що мозок є неорганізованою машиною, яка використовує навчання з підкріпленням (спосіб машинного навчання, коли система навчається, взаємодіючи з средою, — прим. „Медузи“), щоб змінювати зв'язки всередині себе, і яка здатна навчитися чого завгодно. Він вважав, що це найкращий підхід до вивчення інтелекту».
Прагнення розробити систему, яка могла б навчатися так, як людський мозок, визначило всю кар'єру Хінтона. В кінці 1970-х і в 1980-х він активно намагався створити алгоритми, здатні розпізнавати звуки і зображення. Ключову роль у проектах вчених того часу грали внутрішні уявлення, тобто інформаційні структури, які сприймаюча система створює і зберігає як комбінації якостей, властивих зовнішнім об'єктам.
«Питання про те, як створювати внутрішні уявлення, вважалося святим Граалем досліджень ІІ»,— пояснив (https://www.nytimes.com/2017/06/23/world/canada/the-man-who-helped-turn- toronto-into-a-high-tech-hotbed.html) Хінтон. Однак комп'ютери півстоліття тому не мали достатньої швидкості, щоб генерувати внутрішні уявлення так швидко, як людський мозок.
З 1982 року Хінтон займав позицію професора в Університеті Карнегі — Меллона в Піттсбурзі, але політика адміністрації американського президента Рональда Рейгана все більше дратувала британця. Йому не подобалося, що більшість досліджень ІІ в США спонсоруються міністерством оборони, тому в середині 1980-х Хінтон перебрався в Канаду, де йому запропонували посади в Канадському інституті перспективних досліджень і в Університеті Торонто.
Там Хінтон продовжував дослідження, незважаючи на те, що багато його колег до того моменту розчарувалися в ідеї створити вчиться ІІ і зайнятися іншими проектами. «У 1990-х набори даних були недостатньо великими, а комп'ютери — як і раніше недостатньо швидкими, — розповів (https://www.nytimes.com/2017/06/23/world/canada/the-man-who-helped -turn-toronto-into-a-high-tech-hotbed.html) Хінтон. — З маленькими наборами даних краще працювали інші методи. Вони не відволікали великою кількістю інформації. Це дуже пригнічувало, оскільки в 1980-х ми розробили метод зворотного поширення помилки і думали, що вирішили всі проблеми. Нас непокоїло, чому у нас, як і раніше, не виходило використовувати цю технологію».