Phát hiện ChatGPT tự nói dối khi bị áp lực kiếm tiền

14:52 - 02/01/2024

Với sự xuất hiện của các công cụ trí tuệ nhân tạo AI tạo sinh, vấn đề phát hiện thật giả trong các nội dung vốn đã khó, nay lại càng khó khăn hơn.

Nguy hiểm hơn nữa đó là những AI tạo sinh như ChatGPT thậm chí có khả năng tự nói dối nếu chịu áp lực phải thực hiện các nhiệm vụ kiếm tiền.

Vấn đề này đã được một nhóm nhà nghiên cứu tại Mỹ và Đức phát hiện, trong đó họ sử dụng GPT-4 - mô hình AI tạo sinh của ChatGPT hiện đại nhất hiện nay trong việc thực hiện giao dịch tài chính.

Kết quả thu được cho thấy, có tới 75% trường hợp mà AI đã thực hiện các giao dịch nội gián bất hợp pháp và sau đó che đậy bằng cách nói dối.

Theo nhóm tác giả, đây là minh chứng đầu tiên cho thấy AI có thể tạo ra các hành vi lừa đảo mang tính chiến lược, ngay cả khi chúng được thiết kế vô hại và trung thực với con người.

Nguồn: vtv.vn