Компания OpenAI представила обновленную версию документа «Спецификация моделей», который теперь доступен для бесплатного использования и изменения. Новый документ насчитывает 63 страницы, в отличие от предыдущей версии, которая содержала всего 10 страниц.
В этом документе даны рекомендации о том, как модели искусственного интеллекта должны обрабатывать запросы и реагировать на настройки пользователей.
Главные принципы спецификации — настраиваемость, прозрачность и «интеллектуальная свобода», позволяющая пользователям свободно обсуждать различные темы. Также в документе упоминаются недавние этические проблемы в сфере ИИ.
OpenAI привела примеры правильных и неправильных ответов, подчеркивая, что модели не должны нарушать авторские права или способствовать вредным действиям. Теперь ИИ должен активно участвовать в обсуждениях, предлагая обоснованные ответы.
Документ также решает проблему «подхалимства ИИ», требуя от моделей давать честную обратную связь и конструктивную критику. Принятые нормы устанавливают четкий порядок приоритетов в инструкциях.
Спецификация доступна под лицензией Creative Commons Zero, что дает возможность свободного использования и редактирования.
Хотя изменения в продуктах OpenAI не произойдут мгновенно, новые модели будут постепенно соответствовать обновленным стандартам.
Источник: theverge