Пользователи соцсетей стали получать письма от OpenAI с предупреждениями о возможной блокировке доступа к семейству нейросетей GPT. Причина – избыточное внимание к алгоритмам работы новой версии ИИ под кодовым названием Strawberry.
Ключевым преимуществом Strawberry, как описано в анонсах ИИ, должна стать возможность «рассуждать». Это некий пошаговый процесс, который моделирует «ход мыслей» при решении задачи. Новшество должно улучшить когнитивные способности нейросетей. Технический директор OpenAI Мира Мурати называет это «новой парадигмой» в данной технологии.
В OpenAI заявили, что вынуждены скрывать подробности работы Strawberry из опасений, что пользователи получат доступ к «глубинному» мыслительному процессу ИИ. И узнают то, чего им знать не положено. В компании не скрывают, что намерены сохранить конкурентное преимущество, а потому не намерены раскрывать секреты работы Strawberry. Пользователи получают только итог «рассуждений» нейросети, она не обязана отчитываться в том, как она «додумалась» до того или иного результата.
Эта политика полностью расходится с былыми устремлениями OpenAI к созданию систем искусственного интеллекта с открытым кодом и прозрачными принципами работы. Доходит до того, что предупреждение о возможной блокировке можно получить просто за слово «рассуждения» в работе со Strawberry, и контекст запроса неважен. Получается странная ситуация: ведь если заказчик услуги не понимает «хода мыслей» нейросети и не может убедиться в правильности рассуждений, ему будет сложно слепо довериться ей.