Асоціація
Українсько-Китайського
співробітництва
  • ОГЛЯДАЧ / АНАЛІТИКА

    Навіщо ми розробляємо штучний інтелект і чим нам це загрожує

    2019-11-26

    Коротко:

    що таке штучний інтелект і чому його поки не існує

    навіщо нам потрібен штучний інтелект

    чи можуть люди бути формою штучного інтелекту

    З огляду на те, скільки часу людина проводить у гаджетах — світ уже поневолений технологіями. Але, деякі вчені всерйоз обговорюють можливість повстання машин і появи штучного інтелекту (далі — ШІ), який ступить на стежку війни з людьми.

    Одним з останніх відкриттів стала робота нейробіологів зі США, які заявили, що ШІ можна вселити почуття власної «смертності» і буквально пояснити комп’ютеру, що його існування досить крихке.

    У зв’язку з цим, НВ розбиралася, навіщо потрібно наділяти комп’ютер почуттями, коли з’явиться повноцінний ШІ і чи може людство бути симуляцією комп’ютерної програми, яку розробила одна з надцивілізацій.

    У чому суть дослідження?

    «Наша мета — з’ясувати умови, які потенційно дозволили б машинам піклуватися про те, що вони роблять або думають. За певних умов, машини, які можуть реалізувати процес, схожий на гомеостаз, здатні також отримати джерело мотивації і нові засоби для оцінки поведінки, на зразок почуттів живих організмів», — зазначено в роботі нейробіологів із Південно-Каліфорнійського університету в Лос-Анджелесі, яку опублікували кілька тижнів тому в журналі Nature.

    Гомеостаз — це передусім біологічна функція, яка дає можливість, наприклад організму людини, зберігати стабільність і контролювати всі внутрішні та зовнішні процеси. Завдяки гомеостазу, людина здатна до саморегуляції, може підлаштовуватися під певні умови і, в кінцевому підсумку, просто виживати.

    Найпростіші приклади гомеостазу у ссавців — потовиділення для регуляції температури тіла, контроль рівня глюкози в крові, обмін речовин, видалення відходів з організму тощо.

    Ці, здавалося б, примітивні функції організм людини виконує навіть без нашої участі. Але, якщо оцифрувати наш організм — вийде дуже складна система, яка одночасно виконує величезну кількість завдань і моментально обробляє потоки інформації з різних своїх «вузлів». Так чи інакше повторити цю систему в цифровому вигляді — і є завдання розробників ШІ.

    Ми вже навчили комп’ютери синтезувати й аналізувати інформацію на початковому рівні, а тепер дослідники зі США планують піти далі і відтворити функцію гомеостазу в машинах. Автори роботи кажуть, що якщо змусити комп’ютер піклуватися про себе — це може не тільки поліпшити його роботу, але й допоможе вченим досліджувати природу почуттів і свідомість машин.

    Наприклад, якщо ШІ зможе визначати ввідні дані про дотик і фізичний тиск — він буде здатний оцінювати ризики і небезпеки. Створення системи таких даних, схожих на людський дотик, нюх, слух, зір і смак, дозволили б комп’ютеру піклуватися про власне виживання і приймати рішення на новому інтелектуальному рівні.

    «Замість того, щоб посилювати захист або додавати сирі обчислювальні потужності для досягнення стійкості, ми починаємо розробку цих роботів, як це не парадоксально, додаючи їм почуття уразливості», — пишуть нейробіологи.

    Кінцева мета цього проекту — створити ШІ, в особі, скажімо, автономного робота, який зможе приймати рішення, ґрунтуючись на чомусь схожому на людські почуття. Інше питання — до чого призведе наділення машини такими почуттями, і як вона буде взаємодіяти з людиною, знаючи про свою уразливість.

    Що таке ШІ?

    В енциклопедія Британіка ШІ визначають як «здатність комп’ютера виконувати завдання, які можуть виконувати розумні істоти». Великою мірою, розробники ШІ намагаються навчити комп’ютер інтелектуальних здібностей на зразок визначення сенсів, узагальнення, навчання на помилках і навіть міркування.
    Вперше термін ШІ використав американський інформатик Джон Маккарті в 1956-му. Його команда є розробником першого ШІ — програми для англійського комп’ютера Ferranti Mark 1, яка могла грати в шахи. Сьогодні ШІ набув набагато ширшого поняття, і ми вже не називаємо гру в шахи на бабусиній кнопковій Nokia ШІ-програмою.

    Таким чином, на березі варто визначити, що ШІ — надзвичайно узагальнене поняття, і, в ідеалі, — це штучно розроблена система, яка має людські або близькі до людських інтелектуальні здібності і може виконати будь-яке завдання з можливих для homo sapiens.

    Поняття ШІ часто вживають у розрізі машинного навчання і штучних нейронних мереж. Тут вже простіше і побільше конкретики. Нейромережі — це форма ШІ, реалізована через програмне забезпечення, яке симулює принципи обміну інформацією між нейронами в мозку людини. Простіше кажучи, штучна нейромережа використовує мережу вузлів для обробки інформації, схожу на нейронну мережу в організмі людини.

    Ця технологія дала можливість комп’ютерам обробляти величезну кількість інформації. Найпоширеніші приклади нейромереж — програми для визначення того чи іншого об’єкта, його руху і характеристик на зображенні або відео. Спершу розробники вручну навчають програму відрізняти один об’єкт від іншого, а потім, аналізуючи мільйони зображень, нейромережа автоматично приймає рішення і визначає положення та характеристики об’єктів.

    Фото: AI Demystified | Callaghan Innovation

    Так працюють розважальні мобільні застосунки, які нібито визначають вік за вашим фото і, водночас, за таким принципом функціонують складні системи для відновлення давньогрецьких текстів, анімації статичних портретів або навіть створення випадкових фото неіснуючих людей.

    Нейромережа — це одна з форм машинного навчання, оскільки система навчається, виконуючи все більше кількість завдань. Але, машинне навчання — ширший термін, оскільки він передбачає різні форми розвитку продуктивності комп’ютера. Наприклад, коли YouTube пропонує вам подивитися певні відеоролики, ґрунтуючись на вашому попередньому виборі та визначаючи ваші уподобання — це теж форма машинного навчання.

    Навіщо потрібен ШІ?

    Оскільки інтелектуальні системи на кшталт нейромереж працюють з інформацією — їх застосування актуальне в усіх сферах людської діяльності. Логістика транспортних перевезень, обслуговування медичної сфери, банкінг, фінансові операції, оптимізація промисловості, автономне водіння, інфраструктура міст, — це лише мала частка того, де можна застосувати і де вже застосовують різні нейромережі.

    Так, подібні системи взяли на себе частину роботи людини. Навчена робототехніка може керувати літаками, розбирати юридичні справи, створювати журналістські тексти і навіть проводити медичні операції. Звісно, все це поки лише перспективні сфери для повного застосування ШІ, і їхня діяльність все одно строго контролюється людиною.

    Реальне застосування, скажімо, нейромереж актуальне в рутинній роботі, яка пов’язана з обробкою інформації. Через створення інтелектуальних систем можна оптимізувати роботу багатьох офісних співробітників, клерків, секретарів, бухгалтерів, аудиторів, поштових службовців тощо. Загалом, всі, хто зараз займається документообігом, математичними підрахунками, збором і обробкою інформації мають бути готові до того, що вже завтра їхнє місце займе залізяка, якій не потрібен відпочинок і соцпакет.

    Втім, не варто боятися, що роботи знищать усі професії і заберуть роботу у людей. Нам, як і раніше, потрібні аналітики, фахівці з маркетингу, продажів, різні ідеологи, політологи, філософи, вчителі, юристи, — взагалі всі, хто може робити свою роботу краще, ніж комп’ютер. Не кажучи вже про творців цих комп’ютерів, вчених, інженерів, ІТ-фахівців, розробників ПЗ тощо.

    Поки, на жаль чи на щастя, комп’ютер програє людині в більшості сфер, і те, що ми навчили нейромережі моментально виконувати конкретні, але складні завдання і вчитися на них — не означає, що такі системи розумніші за людину.

    Примітивний ШІ, який сьогодні реалізований у вигляді інтелектуальних голосових помічників, машинного перекладу з однієї мови на іншу, створення текстів чи визначення об’єктів на фото — все ще дуже слабкий, робить багато помилок і не може обійтися без допомоги людини.

    «Роботи дуже тупі. Ми повинні розуміти, що ми на світлові роки далекі від штучного інтелекту. Все, що ми поки можемо — це спроби голосових помічників невдало жартувати… Потрібна була ціла наукова робота для того, щоб навчити робота прибирати одне сміття рукою, а іншою — за допомогою совка», — каже кандидат фізико-математичних наук, видавець науково-популярного інтернет-видання N+1 і ведучий подкасту KuJi Podcast Андрій Коняєв.

    Які ШІ бувають?

    У філософії штучного інтелекту є поняття слабкого і сильного ШІ. Слабкий ШІ — це все, про що ми говорили вище: така система може виконувати різні інформаційні завдання, визначені людиною. Крім того, людина повністю налаштовує роботу цієї системи, стежить за ходом виконання робіт, контролює стан апаратного забезпечення тощо.
    Сильний ШІ передбачає, що комп’ютер не тільки обробляє інформацію, а й розуміє її сенс. Наприклад, якби згадана Apple Siri могла спілкуватися з користувачами не тільки за своїми алгоритмами і набором заданих команд, а вести розмову на загальні теми і хоча б імітувати міркування — вона була б сильним ШІ.

    Відрізнити сильний ШІ від слабкого можна за допомогою тесту Тюринга. В середині минулого століття англійський математик Алан Тюринг запропонував простий експеримент: чи зможе людина визначити, з ким вона спілкується, — з іншою людиною або з комп’ютером. Якщо людина думала, що спілкується з іншою живою людиною, але насправді її співрозмовником був комп’ютер — такий комп’ютер пройшов тест Тюринга і вважали сильним ШІ.

    Фото: cdn-images-1.medium.com

    Так, у деяких випадках машинам дійсно вдавалося проходити тест Тюринга і люди не могли відрізнити їхні відповіді від відповідей живих людей. Але, це не означає що зараз існує сильний ШІ. Інтелектуальні системи дійсно можуть розуміти сенс інформації і вводити її в контекст, але навіть це вони роблять на основі закладених у них алгоритмів і масиву раніше оброблених даних. Поки не існує жодного комп’ютера, який міг би розуміти інформацію так, як її розуміє людина.

    Наш сьогоднішній ШІ — це все-таки слабкий або спеціалізований ШІ, який хоч і може обіграти вас у шахи, керувати автомобілем, розпізнавати обличчя, виконувати ваші запити, але все-таки не може замінити людину в будь-якій когнітивній роботі.

    Тому, на цьому етапі, розмови про те, що ШІ незабаром набудее свідомості, прийматиме рішення проти людської волі і взагалі поневолить людство — це не більше, ніж наукова фантастика. Сьогодні нам радше треба боятися неправильної роботи інтелектуальних систем, які керують літаками, автомобілями, енергомережами або кардіостимуляторами.

    Коли з’явиться сильний ШІ і чи може він існувати взагалі?

    70 років тому міжпланетні подорожі і висадка людини на Місяці здавалися божевільними ідеями. Те ж саме і зі створенням сильного ШІ зараз. У нинішніх умовах це не здається можливим, але розвиток напівпровідникових технологій, квантових обчислень і зацікавленість вчених у дослідженні цієї теми обіцяють нам непогані перспективи для створення комп’ютерного надрозуму.

    Можливо, через кілька десятків років ті ж вчені з Каліфорнії все-таки навчать ШІ переживати за свій власний стан і це призведе до формування свідомості у машин. Але, цілком ймовірно і те, що ми ще сотні років будемо гратися в оживлення своїх «термінаторів» і вчити їх посміхатися.

    Дослідники ШІ не мають єдиної думки щодо того, коли з’явиться повноцінний штучний інтелект. Кілька років тому на конференції в Пуерто-Рико провели опитування серед провідних вчених, які працюють над ШІ. Більшість експертів казали, що подоба сильного ШІ може з’явитися вже в 2045 році, але деякі дослідники були впевнені, що від цієї події нас відділяють сотні років.

    Деякі ІТ-фахівці, підприємці та навіть філософи вважають, що ми ніколи не зможемо створити абсолютну форму ШІ, оскільки ми самі є частиною інтелектуальної системи і живемо в комп’ютерній симуляції.

    Найвідомішим адептом ідеї про життя людини в матриці є глава компаній SpaceX і Tesla Ілон Маск, який також тісно пов’язаний з технологіями ШІ. У 2016-му Маск казав, що існує «всього один з мільярда шансів, що ми живемо в базовій реальності».

    Каліфорнійський мільярдер вважає, що одним із доказів контрольованого життя людини є відеоігри. Мовляв, якщо всього за кілька десятків років людина створила «реалістичну 3D-симуляцію, в яку мільйони людей грають одночасно», і незабаром відеоігри не можна буде відрізнити від реальності, — дуже велика ймовірність того, що людина вже входить в одну з таких симуляцій, і перебуває всередині своєрідної відеогри, розробленої одним із сильних ШІ.

    Одним з піонерів цих ідей є шведський філософ і професор Оксфордського університету Нік Бострем. В інтерв’ю виданню Vulture Бострем розповів, що ідеї про ШІ, який ув’язнив людство в комп’ютерну симуляцію, з’явилися у нього ще до перегляду фільму «Матриця», який вийшов у 1999-му і в якого був схожий сюжет.

    У своїх дослідженнях Бострем прийшов до трьох основних гіпотез:

    — люди вимруть перш ніж зможуть створити надцивілізацію;

    — люди зможуть створити надцивілізацію, але вони навряд чи будуть зацікавлені в симуляції своєї історії;

    — люди вже живуть у комп’ютерній симуляції однією з надцивілізацій.

    Напишіть відгук

    Your email address will not be published. Required fields are marked *