Самые современные модели ИИ начали врать людям
5- 30.09.2024, 8:58
- 5,716
Нейросети не признаются, что чего-то не знают.
популярное за неделю
- 6.11 Дональд Трамп выиграл выборы президента США 78,678
- 3.11 «Это шокирует»: северокорейские солдаты начали дезертировать 77,730
- 4.11 Лукашенко повышает градус абсурда 76,304
- 5.11 «Беларуская выведка»: Лукашенко издал панический приказ 72,424
- 1.11 Два десятка северокорейцев в окопе задрали головы и смотрят, как на них падает боеприпас с украинского дрона 70,214
- 6.11 Появились предварительные результаты подсчетов голосов на выборах президента США 61,810
- 5.11 Войска КНДР открыли огонь по россиянам в Курской области 49,092
Мнение
Победа Трампа приведет к формированию нового мирового порядка
Лукашенко и Путин не переживут новый срок Трампа
Неспящие в Бресте
Курский рубеж полководца Ына
Чтобы сети не врали, в процессе обучения их надо вознаграждать за честные ответы "не знаю", "недостаточно информации, чтобы ответить". Для этого нужны соответствующие датасеты с вопросами на которые нельзя ответить.
ОтветитьЭти ответят. Просто для оценки надо нанимать другой ИИ.
ОтветитьМне иногда кажется что у всех новоиспечённых технарей внутрях ИИ вместо мозга. Слова правильные, а смысла ноль.
помню ради эксперимента предложили chatGPT решить математическую задачу на комбинаторику. AI выдал неправильный ответ. Каждый раз когда мы указывали на ошибку AI отвечал типа: "согласен, сейчас скорректирую" и снова выдавал чепуху. В общем мы ржали всей нашей командой quant девелоперов :))))
ОтветитьИменно. Пытался писать код с помощью разных моделей. Общий вывод: не по коню ноша 🤷♂️
ОтветитьНа одну правду найдется огромный, практически бесконечный диапазон неправды. И если приказ дать ответ становится важнее всего, то правды останется очень мало.
ОтветитьА там, как и торговле, "выданный ответ" - это результат деятельности (за которую кого-то вознаградят), и ответы такие будут.