Сможем ли мы поручать ИИ важные задачи?
5- 11.07.2025, 13:17
- 1,062

Современные нейросети уже обещают избавить людей от рутинной работы.
Дискуссия о доверии к искусственному интеллекту, пишет New Scientist (перевод — сайт Charter97.org), выходит за рамки технологий и затрагивает фундаментальные вопросы общества — стоит ли позволять машинам выполнять важные задачи?
Примером может служить история доказательства знаменитой теоремы о четырех красках. Суть задачи: сколько цветов нужно, чтобы раскрасить любую карту мира так, чтобы соседние страны не были одного цвета? Ответ — четыре. Это было доказано в 1976 году при помощи компьютера, который проверил тысячи возможных конфигураций карты.
Такое «компьютерное» доказательство вызвало бурную реакцию в математическом сообществе. Многие ученые сомневались: можно ли считать доказанным то, что невозможно проверить вручную? С тех пор компьютерные доказательства оставались редкостью.
Однако ситуация меняется. Новые системы ИИ ставят вопрос с другой стороны: почему мы должны больше доверять ошибающимся людям, чем машинам, способным формально проверять сложнейшие доказательства?
Эта научная дискуссия отражает более широкую дилемму: когда и в каких сферах можно позволить ИИ взять на себя контроль?
Современные ИИ-агенты уже обещают избавить людей от рутинной работы — от обработки счетов до бронирования отпусков. Однако на практике такие системы часто проявляют как «вспышки гениальности», так и «приступы фрустрации».
Доверить машине кредитную карту или пароли так же тревожно, как когда-то было доверить доказательство компьютеру. Но теперь мы не просто раскрашиваем карту, а исследуем ее границы — и не знаем, что найдем: надежного помощника или цифрового «предателя».