На Форуме этики искусственного интеллекта в Москве учёные из МФТИ представили концепцию этических паспортов для ИИ-систем.
По словам уполномоченного по этике ИИ ИЦ прикладных систем ИИ МФТИ Андрея Кулешова, человек имеет право знать, что он взаимодействует с ИИ-системой, поскольку эта система может не соответствовать человеческим ожиданиям в вопросах морали и нравственности. Необходимость информирования связана с такими принципиальными вопросами, как защита приватной информации, возможная предвзятость ИИ-систем и право человека на личную автономию в принятии решений.
«Современные системы ИИ уже способны взаимодействовать с человеком таким образом, что их участие практически неотличимо от реального человека. Если человек не знает, что его "собеседник" — система ИИ, он может стать жертвой свойств ИИ, которые для реального человека были бы неприемлемы по морально-этическим соображениям. Например, известен случай с голосовым помощником Алиса, когда мультфильм "Маша и медведь" был представлен как мрачная история о призраке девочки, убитой медведем», — пояснил Кулешов.
При этом, как уточняют авторы концепции, предвидеть все потенциально опасные ситуации взаимодействия с интеллектуальными системами невозможно. Именно поэтому указанное взаимодействие должно быть максимально прозрачным: пользователи должны понимать, какими свойствами обладает ИИ, в каких целях его можно использовать. В противном случае не удастся избежать юридических последствий. К примеру, когда ИИ-система используется для имперсонации человека для защиты общественных интересов. Это может быть использование ИИ в качестве «приманки» для телефонных мошенников.