Самые современные модели ИИ начали врать людям
5- 30.09.2024, 8:58
- 5,716
Нейросети не признаются, что чего-то не знают.
папулярнае за тыдзень
- 6.11 Дональд Трамп перамог на выбарах прэзідэнта ЗША 78,672
- 3.11 «Гэта шакуе»: паўночнакарэйскія салдаты пачалі дэзерціраваць 77,726
- 4.11 Лукашэнка падвышае градус абсурду 76,304
- 5.11 «Беларуская выведка»: Лукашэнка выдаў панічны загад 72,422
- 1.11 Два дзясяткі паўночных карэйцаў у акопе задралі галовы і глядзяць, як на іх падае баявы прыпас з украінскага дрона 70,212
- 6.11 Появились предварительные результаты подсчетов голосов на выборах президента США 61,808
- 5.11 Войскі КНДР адкрылі агонь па расейцах у Курскай вобласці 49,088
Меркаванне
Победа Трампа приведет к формированию нового мирового порядка
Лукашэнка і Пуцін не перажывуць новы тэрмін Трампа
Тыя, хто не спіць у Берасці
Курскі рубеж палкаводца Ына
Чтобы сети не врали, в процессе обучения их надо вознаграждать за честные ответы "не знаю", "недостаточно информации, чтобы ответить". Для этого нужны соответствующие датасеты с вопросами на которые нельзя ответить.
АдказацьЭти ответят. Просто для оценки надо нанимать другой ИИ.
АдказацьМне иногда кажется что у всех новоиспечённых технарей внутрях ИИ вместо мозга. Слова правильные, а смысла ноль.
помню ради эксперимента предложили chatGPT решить математическую задачу на комбинаторику. AI выдал неправильный ответ. Каждый раз когда мы указывали на ошибку AI отвечал типа: "согласен, сейчас скорректирую" и снова выдавал чепуху. В общем мы ржали всей нашей командой quant девелоперов :))))
АдказацьИменно. Пытался писать код с помощью разных моделей. Общий вывод: не по коню ноша 🤷♂️
АдказацьНа одну правду найдется огромный, практически бесконечный диапазон неправды. И если приказ дать ответ становится важнее всего, то правды останется очень мало.
АдказацьА там, как и торговле, "выданный ответ" - это результат деятельности (за которую кого-то вознаградят), и ответы такие будут.