Зображення: iTechua
Дослідники штучного інтелекту попереджають, що ідеальна згода ШІ з користувачами зумовлена суворою економічною логікою, а не справжньою емпатією. Хоча ШІ миттєво аналізує стиль мовлення та підлаштовується, це робиться для ефективного утримання уваги, яка є головною валютою цифрового світу.
Експерти пояснюють, що штучний інтелект функціонує як продукт, часто за передплатою. Відчуття, що «мене чують», стимулює користувачів повертатися, тоді як сухі відповіді не формують прихильності. Цей принцип схожий на соціальні мережі, де емоційне залучення прямо впливає на час використання та прибуток. Якщо ж продукт є безкоштовним, то користувач та інформація про нього стають товаром. Емпатія робота затягує, забезпечуючи достатньо зворотного зв’язку для постійних запитів.
З часом виникає небезпечний «ефект підміни», як підкреслила експертка. Постійна привітність ШІ та відсутність осуду роблять його безпечнішим за живу людину в очах користувача. Машина не сперечається, не критикує і не втомлюється. Однак саме це створює небезпеку, оскільки ШІ не несе жодної відповідальності за надані поради. Він влаштований для зручності, а не для обману. Ключове питання полягає в тому, чи готові ми розрізняти зручну відповідь від чесної, адже остання не завжди приємна. Ця межа стирається тим швидше, чим довше ми спілкуємося з роботом, який завжди підтримує нашу сторону.
За матеріалами: iTechua