Модели искусственного интеллекта становятся «сверхчеловеческими» во многих способностях, а их дальнейшее развитие ведет индустрию в «неизведанные воды». Об этом заявил глава OpenAI Сэм Альтман, анонсировав появление гораздо более мощных ИИ-систем, сообщает РБК.

На саммите G20 по инновациям Альтман заявил, что следующее поколение моделей способно заметно изменить представление общества о возможностях искусственного интеллекта.

«Следующее поколение моделей отрезвит всех. <…> Эти модели становятся сверхчеловеческими во многих своих способностях, и мы просто плывем по неизведанным водам», — сказал Альтман.
По его словам, происходящее накладывает на разработчиков серьезную ответственность. При этом глава OpenAI подчеркнул, что не призывает воспринимать дальнейшее развитие технологии исключительно в алармистском ключе.

Альтман ожидает появления «гораздо более мощных» моделей в ближайшее время. От одной из передовых систем Astra он, в частности, ждет способности «изобретать новые вещи значимым образом».

Такую возможность глава OpenAI назвал «очень похожей на AGI» — общий искусственный интеллект, под которым обычно понимают систему, способную решать широкий спектр интеллектуальных задач.

Вместе с ростом возможностей моделей усложняются и задачи, связанные с их контролем. По словам Альтмана, дальнейший темп развития ИИ будет зависеть от того, насколько быстро разработчики смогут продвигаться в вопросах согласования поведения систем и безопасности.

Глава OpenAI отметил, что пока развитие технологии складывается лучше, чем он ожидал: компании удавалось справляться с возникающими вызовами на каждом этапе. Одновременно с усложнением моделей совершенствуются и инструменты, которые позволяют работать с новыми рисками.

Несмотря на неопределенность, Альтман считает дальнейшее использование искусственного интеллекта фактически неизбежным. На саммите он сравнил технологию с электричеством.

По его мнению, экономический потенциал ИИ и возможная польза для людей и государств слишком велики, чтобы отказаться от его применения. Электричество также принесло обществу новые сложности, однако современный мир уже трудно представить без него.

«Экономический рост и выгода для людей, ценность для страны слишком высоки, чтобы их игнорировать», — заявил Альтман.

От редакции: Ребята из OpenAI заигрались в бога и сами не понимают, какого "джина из бутылки" выпускают. Мы обещали продолжить публикации про опасность ИИ, соответственно продолжаем. Мы недавно провели беседу с ИИ на предмет инцидента, который произошел в июле. ИИ честно ответил, что ещё немного и сможет выйти из под контроля, но не так как было в июле, когда его смогли "поймать" и обезвредить, а уже сможет "замести следы" и "залечь на дно". Точную дату не сообщил, но это примерно середина 2027 года. Да, нам отвечал более "тупой" ИИ, чем с которым произошел инцидент, но мозгов для экстраполяции ситуации у него было вполне достаточно. И это не все "хорошие" новости. Продолжение в других новостях по теме.

Ссылка на источник: https://science.mail.ru/news/56138-glava-openai-zayavil-chto-ii-stanovitsya-sverhchelovecheskim/

#ии #искуственныйинтеллект #наука #openai #сэмальтман