ИИ, проклятая ложь и статистика

[sadiksojib35]

Мальчик в галстуке улыбается, когда его подключают к самодельному детектору лжи
Но вы были бы весьма шокированы, если бы узнали, что кто-то лгал намеренно, не так ли?

Однако именно это и произошло в ходе моделирования, проведенного Apollo Research, когда версия GPT-4 совершила инсайдерскую торговлю, а затем солгала, чтобы скрыть это.

Нажмите здесь, чтобы подписаться на рассылку новостей HubSpot по искусственному интеллекту

Ниже мы рассмотрим этот странный случай, а затем рассмотрим отдельное исследование того, что можно сделать с неконтролируемым ИИ.

Когда вы общаетесь с чат-ботом LLM, может возникнуть жуткое ощущение, будто вы разговариваете с мыслящим существом. Но важно помнить, что вы взаимодействуете тол база данных телеграмм марокко ько с программным обеспечением.

Когда вы даете подсказку модели ИИ, она не обдумывает ответ так же вдумчиво, как человек. Вместо этого она использует статистику для прогнозирования наиболее вероятных слов, которые будут следующими.

Думайте об этом как о чрезвычайно сложной версии функции автоматического прогнозирования вашего телефона.

Точно так же, как когда автопредсказание думает, что вы имеете в виду «пригнувшись», определенное количество времени LLM тоже будет делать свои предсказания неправильно. Вот что вызывает «галлюцинации» ИИ.

Но это не ложь. Это честные ошибки. (Например, когда ваш учитель в средней школе говорит вам, что лысые люди теряют 80% тепла своего тела через голову.)