Медичний чат-бот на базі штучного інтелекту створила французька компанія Nabla, пише The Register.
Бот розроблений, щоб допомогти лікарям автоматизувати деякі завдання. Зокрема, він мав би аналізувати запити пацієнтів і пропонували рішення їхніх проблем. Таким чином хотіли тестувати здібності GPT-3 – алгоритму обробки природної мови від OpenAI.
Проте нестабільна та непередбачувана природа реакцій програмного забезпечення зробила його недоречним для взаємодії з пацієнтами в реальному світі, підсумувала команда Nabla. Причиною тому й стала ситуація, коли бот порекомендував уявному пацієнту убити себе.
Йому не вистачає наукових і медичних знань, які зробили б його корисним для медичної документації, діагностики, рекомендацій з лікування або будь-яких медичних питань і відповідей",– зазначила команда Nabla в звіті.