Илон Маск против «ChatGPT»
Директор агентства Gosapp Digital Захар Рубцов – о громком конфликте между отцами-основателями ChatGPT.
Пока мы тут с вами заняты своими заботами (которые лучше бы отложить и максимум озадачиться выбором маринада для шашлыка), за океаном разворачиваются страсти шекспировских масштабов! Тут всплыл громкий скандал вокруг хорошо знакомого нам ChatGPT – вернее, конфликт между его отцами-основателями. Илон Маск (тот самый) официально начал войну против Сэма Альтмана (гендир OpenAI, которая сделала ChatGPT) и подал в суд.
Если говорить совсем простыми словами, Маск утверждает, что его просто кинули. Дескать, еще на заре развития ИИ-технологий он стоял у истоков развития OpenAI, вкладывал деньги в компанию, как в некоммерческий проект, который должен был делать мощный ИИ на благо всего человечества. Но в итоге получилась коммерческая машина, заточенная исключительно под прибыль и тесно связанная с Майкрософт, – сетует Маск. Теперь Илон требует уволить Альтмана (якобы это он во всём виноват), вернуть компанию к изначальным принципам и выплатить больше 150 миллиардов долларов компенсации.
Но там все не так просто с этим Альтманом, и оттого ещё интереснее. Оказывается, человек, который прямо сейчас стоит у руля ChatGPT – социопат и патологический лжец, зацикленный на власти. Недавнее большое расследование журналистов The New Yorker показало, что Альтмана неоднократно пытались уволить с руководящих постов за его постоянную ложь (даже по совсем пустякам), за манипуляции и сознательное искажение фактов. А один из основателей интернета Аарон Шварц ещё много лет назад предупреждал: «Сэму никогда нельзя доверять. Он социопат».
Например, в 2023 году Альтман решил сформировать внутри OpenAI отдельную исследовательскую группу, которая должна была изучать риски, связанные с развитием искусственного интеллекта, в том числе потенциальные угрозы для человечества. Он обещал выделить этой команде до 20 процентов вычислительных ресурсов компании. Но в итоге специалисты по безопасности получили менее двух процентов мощностей, тогда как доступ к самым современным технологиям оставался у подразделений, напрямую связанных с коммерческими продуктами OpenAI.
Похожая ситуация происходила и в 2022 году, когда Альтман сообщил совету директоров OpenAI, что готовившаяся к запуску модель GPT-4 уже прошла оценку специальной комиссии по безопасности. Но когда члены совета запросили отчет этой комиссии, выяснилось, что значительная часть возможностей новой модели не была должным образом проверена и формально одобрена. Т.е. технологию запустили без соответствующих оценок рисков.
И с одной стороны, может показаться, что это просто внутренние разборки американских миллиардеров, но на деле ситуация иная. Многие специалисты, работающие над развитием ИИ, действительно озабочены угрозами, которые искусственный интеллект может представлять. И тот же Альтман еще в 2015 году писал: «Искусственный сверхинтеллект не обязательно должен быть зловещим порождением сай-фая, чтобы покончить с нами. Наиболее вероятный сценарий (уничтожения человечества) состоит в том, что ему просто не будет до нас дела, и, стремясь реализовать какую-то другую цель, он сотрет нас с лица земли».
Примерно тогда (10 лет назад) Альтман и Маск описывали свой проект как технологический аналог Манхэттенского проекта (в рамках которого изготовили ядерную бомбу). И они сходились во мнении, что «супер-ИИ» может стать угрозой существованию человечества. Но вот в 2025 году, когда OpenAI превращается в коммерческую корпорацию, меняется и риторика Альтмана. Сейчас он заявляет, что человечество уже «близко к созданию супер-ИИ», но теперь перспектива звучит в его словах не как повод для тревоги, а скорее гордо. В итоге глава OpenAI уверяет, что такая технология принесет людям новые возможности, блага и «чудесные вещи». Переобулся, получается.
В общем, к чему я это все? Если вы не знали, какое кино посмотреть на майских – видимо, пора пересматривать «Терминатора». Оказывается, он пророческий. Хотя, глядя на все это, лучше бы мы жили по пророчеству из «Назад в будущее» – уже бы давно все по небу на машинах летали…
