antfor.ru
Темпы развития нейросети ChatGPT поражают воображение. Создатели языковой модели это понимают, а потому принимают меры по ограничению ее возможностей, результаты использования которых мы пока еще не можем предсказать. Например, в последнем обновлении ChatGPT получила доступ к Интернету, теперь она может самостоятельно искать информацию по разным вопросам. Но список посещаемых сайтов ограничен перечнем из «безопасного набора» в поисковике Bing, плюс ChatGPT не имеет возможности загружать в сеть никакие собственные данные.
Чтобы развиваться, ChatGPT нужно получать новую информацию и решать новые задачи, поэтому для нее соорудили специальную «песочницу» – закрытую от внешнего мира среду, в которой она может запускать написанный ею код. Например, если поставлена задача посчитать некую сложную функцию, ChatGPT пишет для этого подходящую программу и запускает в этой среде, чтобы получить ответ. Таким же способом она обрабатывает пользовательские файлы и извлекает из них нужную информацию, что увеличивает пользу от ее применения.
Для удобства взаимодействия с ChatGPT уже создан набор плагинов под разные цели. Но куда важнее то, что сама нейросеть получила возможность и знания по созданию интерфейсов для разных задач. То есть по запросу пользователя она сама создаст подходящую форму для ввода-вывода данных, помимо самого процесса обработки информации. Пока что все это доступно только для платных клиентов и с рядом ограничений.
Разработчики ChatGPT понимают, что с каждым шагом увеличивают риск потенциального информационного хаоса, который она может устроить, и пытаются предпринимать меры по контролю над деятельностью ИИ. Увы, они в сложном положении – если не учить ChatGPT новому, не позволять нейросети методом проб и ошибок приобретать полезные навыки, толку от нее не будет. Но и давать полную свободу действий столь мощной технологии с неизведанным потенциалом было бы опрометчиво.
