Медичний чат-бот порекомендував пацієнту вбити себе

Медичний чат-бот на базі штучного інтелекту створила французька компанія Nabla, пише The Register.

Бот розроблений, щоб допомогти лікарям автоматизувати деякі завдання. Зокрема, він мав би аналізувати запити пацієнтів і пропонували рішення їхніх проблем. Таким чином хотіли тестувати здібності GPT-3 – алгоритму обробки природної мови від OpenAI.

Проте нестабільна та непередбачувана природа реакцій програмного забезпечення зробила його недоречним для взаємодії з пацієнтами в реальному світі, підсумувала команда Nabla. Причиною тому й стала ситуація, коли бот порекомендував уявному пацієнту убити себе.

Йому не вистачає наукових і медичних знань, які зробили б його корисним для медичної документації, діагностики, рекомендацій з лікування або будь-яких медичних питань і відповідей",– зазначила команда Nabla в звіті.