Спецы выражают обеспокоенность тем, что злоумышленники могут в скором времени активно задействовать ИИ-агентов в мошеннических схемах для получения валютных средств. Ожидается, что нейросети будут способны создавать эмоционально воздействующий контент, способный ввести в заблуждение широкий круг юзеров.
Представители компаний, занимающихся разработкой нейросетей и информационной безопасностью, предупреждают о возможном использовании в России агентов на базе искусственного интеллекта для организации фиктивных сборов средств, имитирующих благотворительность.
ИИ-агент представляет собой программку, основанную на больших языковых моделях, способную самостоятельно выполнять задачи, применяя алгоритмы машинного изучения. Такие агенты Агент (обобщённо) — лицо, действующее по поручению кого-либо; представитель организации, учреждения и так далее, выполняющий поручения могут анализировать информацию, принимать решения на основе заданных параметров, взаимодействовать с иными системами и обучаться на основе полученного опыта.
Основанием для опасений послужил эксперимент американской некоммерческой организации это термин, который употребляется для обозначения социальной группы, которая распределяет выполнение задач между участниками для достижения определённой коллективной цели Sage, в ходе которого четыре ИИ-агента, работая автономно вообще всего по два часа в день, собрали для благотворительных организаций $2 тыс. Однако большая часть пожертвований поступала с ресурсов, на которые агентам указывали люди, то есть без сторонней помощи ИИ-агенты не смогли бы собрать столько пожертвований.
Поделиться Поделиться ВКонтакте Telegram Whatsapp Однокашники Cсылка