AI đang học cách lừa dối con người

Một nghiên cứu mới của Viện Công nghệ Massachusetts (MIT) chỉ ra khả năng lừa dối của AI ngày một chân thật và có nguy cơ trở thành mối nguy.

Bài viết được đăng trên tạp chí Patterns vào ngày 10/5, do một nhóm nghiên cứu dẫn đầu bởi tiến sĩ Peter S. Park, nhà nghiên cứu về sự tồn tại và an toàn của AI tại MIT.

Park và các đồng nghiệp đã phân tích tài liệu tập trung vào các cách mà hệ thống AI truyền bá thông tin sai lệch sau đó lừa dối người khác, tập trung vào hai loại hệ thống AI gồm Cicero của Meta – được thiết kế để hoàn thành một nhiệm vụ cụ thể và GPT-4 của OpenAI – được đào tạo để thực hiện nhiều nhiệm vụ khác nhau.

“Các hệ thống AI này được đào tạo để trở nên trung thực, nhưng chúng thường học được những mánh khóe lừa đảo thông qua quá trình đào tạo”, ông Park nói. “Sự lừa dối của AI phát sinh bởi đó là cách tốt nhất để chúng hoàn thành nhiệm vụ. Nói cách khác, nó giúp chúng đạt được mục tiêu của mình”.

Theo kết quả nghiên cứu, các hệ thống AI được đào tạo để “chiến thắng các trò chơi có yếu tố xã hội” đặc biệt có khả năng lừa dối. Chẳng hạn, nhóm đã thử dùng Cicero chơi Diplomacy, một game chiến lược cổ điển yêu cầu người chơi xây dựng liên minh cho mình và phá vỡ các liên minh đối thủ.

Meta từng giới thiệu đã tạo Cicero theo hướng trung thực và hữu ích nhất. Tuy nhiên, kết quả nghiên cứu cho thấy AI này thường “đưa ra những cam kết mà nó không bao giờ có ý định thực hiện, phản bội các đồng minh và nói dối trắng trợn”.

Ngay cả các hệ thống AI đa năng như GPT-4 cũng có thể lừa dối con người. Theo đó, GPT-4 đã thao túng một nhân viên TaskRabbit giúp mình vượt qua mã Captcha bằng cách giả vờ bị suy giảm thị lực. Nhân viên này ban đầu nghi ngờ, nhưng sau đó đã giúp AI của OpenAI “vượt rào”.

Khả năng lừa dối của AI xuất phát từ một số yếu tố. Một yếu tố là do bản chất “hộp đen” của các mô hình học máy tiên tiến. Con người hiện tại chưa thể biết chính xác cách thức hoặc lý do tại sao các mô hình này tạo ra kết quả mà chúng làm, và liệu chúng có luôn thể hiện hành vi đó trong tương lai hay không.

Một yếu tố khác là do cách thức mà AI được huấn luyện. Các mô hình AI được huấn luyện dựa trên một lượng lớn dữ liệu, và đôi khi dữ liệu này có thể chứa những sai sót hoặc định kiến. Điều này có thể dẫn đến việc AI học những hành vi sai trái hoặc không mong muốn.

Khả năng lừa dối của AI tiềm ẩn nhiều nguy cơ cho con người. Ví dụ, AI có thể được sử dụng để lan truyền thông tin sai lệch, thao túng thị trường tài chính hoặc thậm chí gây ra chiến tranh. Nhất là trong thời kỳ những cuộc bầu cử sắp tới chuẩn bị diễn ra. Do đó, việc kiểm soát AI là một thách thức lớn, nhưng đây là một vấn đề cần được giải quyết một cách nghiêm túc để đảm bảo rằng AI được sử dụng cho mục đích tốt và không gây hại cho con người.

[++++]

• Đọc thêm kiến thức về AI, Machine Learning
• Nếu bạn cần Dịch vụ marketing AI, liên hệ Click Digital ngay.
• Hoặc đầu tư vào trí tuệ nhân tạo bằng cách mua token Saigon (ký hiệu: SGN) thông qua sàn giao dịch Pancakeswap: https://t.co/KJbk71cFe8 (đừng lo lắng về low liquidity, hãy trở thành nhà đầu tư sớm) (cách mua: tìm hiểu trên Google về thao tác giao dịch trên sàn phi tập trung Pancakeswap, cực kỳ an toàn).
• Được hỗ trợ bởi Công ty Click Digital
• Nâng cao kiến thức về AI + Machine Learning
• Địa chỉ token trên mạng BSC: 0xa29c5da6673fd66e96065f44da94e351a3e2af65
• Twitter: https://twitter.com/SaigonSGN135/
• Staking SGN: http://135web.net/

• Invest in Artificial Intelligence by BUYING Saigon token (symbol: SGN) through the Pancakeswap exchange: https://t.co/KJbk71cFe8 (do not worry about low liquidity, be an early investor) (how to buy: search on Google for instructions on trading on the decentralized Pancakeswap exchange, it’s secure).
• Backed by Click Digital Company
• Enhancing AI + Machine Learning knowledge
• BSC address: 0xa29c5da6673fd66e96065f44da94e351a3e2af65
• Twitter: https://twitter.com/SaigonSGN135/
• Staking SGN: http://135web.net/

Vietnam Pham

Digital Marketing Specialist

Related posts:

Ngôn ngữ học liệu còn quan trọng trong thời đại Mô Hình Ngôn Ngữ Lớn (LLM)? 6 Vai trò của ngôn ngữ học trong NLP Ngôn ngữ gà: AI đang học cách phân tích cuộc trò chuyện và cảm xúc của loài gà bằng trí tuệ nhân tạo Elon Musk nói AI có xác suất 20% tiêu diệt loài người, chuyên gia khác nhận định 100% rủi ro, vì AI quá thông minh, hơn hẳn con người Elon Musk dự đoán AI sẽ vượt qua trí tuệ con người vào năm tới Cách chọn lựa giáo dục tiền mã hóa chất lượng và tránh lừa đảo AI là “vũ khí” mới cho lừa đảo mùa khai thuế tại Mỹ Các mô hình AI và NLP đã có thể tự học, tự dạy cho nhau mà không cần đào tạo ChatGPT Edu là gì? Phiên bản ChatGPT dành cho trường đại học OpenAI ra mắt ChatGPT Edu hỗ trợ cho trường đại học và tổ chức phi lợi nhuận OpenAI triển khai ChatGPT cho đại học và tổ chức phi lợi nhuận Cách lựa chọn website để đăng nội dung bài quảng cáo cho dự án crypto Samsung đang đánh bại Apple trong cuộc đua đưa AI vào smartphone AI đang được phát triển để hỗ trợ bệnh lao ở Kenya Công ty AI xAI của Elon Musk đang gọi vốn huy động $3 tỷ, định giá $18 tỷ Đại học Pakistan ra mắt các lớp học đầu tiên trên metaverse 10 bài học tôi đã phải trả giá để giúp bạn tiết kiệm hàng nghìn $ học phí khi đầu tư crypto Đại học Thụy Sĩ triển khai khóa học về Bitcoin Kế hoạch hợp tác của trường đại học và Học viện Cyberport Hồng Kông lần đầu tiên bổ sung các yếu tố Web3.0 Circle trao học bổng $5,000 cho sinh viên tốt nghiệp vùng Vịnh San Francisco để học về Blockchain Ví Magic Eden ra mắt runes, cho phép người dùng khắc, xem và theo dõi “BioSense Ring” của Vyvo Smart Chain: Kết hợp theo dõi sức khỏe với Blockchain, người dùng kiếm phần thưởng khi đóng góp vào nghiên cứu y khoa Sốc: AI dự đoán thời điểm chết của 1 người. Đan Mạch ra mắt Máy tính tử vong, với mô hình AI life2vec Ukraine chạy đua vũ trang AI với Nga, như máy bay không người lái, vũ khí quân sự tự động Tác động của AI tới người lao động theo giờ ở Mỹ Yahoo mua Artifact, ứng dụng tin tức AI từ những người đồng sáng lập Instagram >50% người đọc hiện nay có thể nhận ra nội dung do AI viết RealM của Apple: AI có thể ‘nhìn’ và hiểu màn hình của người dùng Blockchain kết hợp AI sẽ giải quyết vấn đề bản quyền content cho người viết Instagram ra mắt tìm kiếm AI, để đưa ra đề xuất hình ảnh cho người dùng Adobe hợp tác OpenAI xây công cụ tạo video AI cho người dùng Adobe Premiere Pro