Бывший сотрудник компании Anthropic Джейкоб Коксон, ранее объявивший о выходе из сферы искусственного интеллекта, выразил тревогу по поводу развития Ии, сравнив его с разумом инопланетной цивилизации.
Призыв к осторожности в развитии ИИ
В субботу глава Anthropic Дарио Амодей призвал замедлить создание более мощных моделей искусственного интеллекта, подчеркнув важность обеспечения безопасности технологий. Эта позиция получила поддержку со стороны американского миллиардера Илона Маска, основателя компании xAI, а также главы OpenAI Сэма Альтмана.
Сравнение ИИ с инопланетным разумом
Коксон в интервью каналу ABC отметил: «Я считаю, что идея создания сверхинтеллекта вполне может быть сопоставлена с призывом к существам из другой вселенной. Поэтому размышлять об этом через призму непонятного нам инопланетного разума — это действительно тревожно».
Уход из ИИ-индустрии и прогнозы на будущее
Ранее Коксон объяснил своё решение покинуть отрасль опасениями, что бурное развитие технологий приведёт к достижению «точки невозврата», после которой возможен катастрофический сценарий уже к концу 2027 года.
Оценка рисков уничтожения человечества
После заявления Коксона другой специалист из компании, руководитель направления стресс-тестирования согласованности Ии Эван Хьюбингер, сообщил, что вероятность того, что искусственный интеллект станет угрозой для человечества в ближайшие десять лет, составляет 10%.
Комментарии