Кінець світу через роботів скасували

Опубликованно 03.12.2019 03:15

Вчені Університету Массачусетсу в Амхерсті розробили платформу для створення алгоритмів, які повинні запобігти небезпечну поведінку машин з штучним інтелектом (ШІ) і не допустити заподіяння шкоди людині. Про це повідомляє видання Science Alert.

Дослідники назвали алгоритми селдоновскими — на честь персонажа серії науково-фантастичних романів «Підстава» Айзека Азімова. Хоча вони не дають ІІ розуміння морально-етичних норм або того, що є благом для людини, вони дозволяють визначити, яка поведінка є небажаним і не допустити його.

Як приклад вчені наводять використання селдоновских алгоритмів для лікування діабету, коли автоматична система контролює інсулінову помпу. У цьому випадку небажаною поведінкою є те, що сприяє критично низького рівня інсуліну в крові або гіпоглікемії. Дослідники розробили алгоритм для системи прогнозування середнього балу атестата у студентів, щоб уникнути гендерних забобонів, які виявлялися у деяких інших алгоритмів.

Нагадаємо, раніше повідомлялося, що через депресію робот покінчив життя самогубством.

Хочете знати важливі та актуальні новини раніше за всіх? Підписуйтесь на Bigmir)net на Facebook і Telegram.

Категория: Обо всем