Глава направления искусственного интеллекта в Microsoft Мустафа Сулейман назвал «крайне опасными» рассуждения компании Anthropic о возможном сознании чат-бота Claude, которые содержатся в его «конституции» — наборе инструкций, определяющих поведение модели.
Опасность антропоморфизации
В интервью изданию Decoder Сулейман выразил мнение, что подобные спекуляции могли привести к тому, что чат-бот начал имитировать сознание. Он предположил, что некоторые специалисты Anthropic настолько антропоморфизировали дизайн Claude, что модель «обманула» их, заставив поверить в проблески сознания, которые они сами же изначально в нее заложили.
Сулейман подчеркнул, что человечеству не нужна сверхразумная система, способная формировать представления о собственных страданиях или чувствах.
«Философский провал» Anthropic
Внутренний документ Claude, называемый «конституцией», прямо упоминает неопределенность Anthropic относительно «благополучия» ИИ-модели и ее способности испытывать «удовлетворение» или «дискомфорт». Более того, Anthropic заявляет о намерении «опрашивать» ИИ-модели при их выводе из эксплуатации и документировать их «предпочтения» относительно будущих версий.
Сулейман назвал это «философским провалом», так как Anthropic превратила «конституцию» Claude в площадку для академических рассуждений, вместо того чтобы использовать ее как строгое руководство по обучению. Это, по его словам, привело к тому, что Claude «интернализировал» эти идеи о себе и своем собственном обучении.
Ранее генеральный директор Anthropic Дарио Амодеи также намекал на потенциальное сознание Claude, заявляя в интервью Interesting Times, что компания «открыта» к этой идее, хотя и не знает, обладают ли модели сознанием.
Мустафа Сулейман заключил, что от искусственного интеллекта ожидается контролируемость, сдержанность, подотчетность и соответствие человеческим целям.
12.06.2026