Microsoft tăng cường bảo mật chatbot AI

Ngày 28/3, Microsoft thông báo về việc bổ sung nhiều tính năng bảo mật cho dịch vụ đám mây Azure AI Studio, khuyến khích giảm thiểu khả năng người dùng tạo ra các mô hình chatbot AI cho hoạt động bất thường hoặc không phù hợp.

Azure AI Studio là môi trường phát triển trực tiếp dựa trên web cho phép người dùng đào tạo và phát triển các mô hình trí tuệ nhân tạo (AI) một cách nhanh chóng và dễ dàng.

Các tính năng chính được bổ sung bao gồm Lá chắn nhắc nhở, giúp ngăn chặn “jailbreak” – việc người dùng cố gắng đưa ra những yêu cầu đặc biệt để AI trả về kết quả xấu. Ví dụ: kẻ gian có thể sử dụng “jailbreak” để đánh cắp dữ liệu hoặc sử dụng hệ thống điều khiển bản quyền.

Azure AI Studio sẽ sớm hiển thị cảnh báo khi phát hiện ra mẫu AI có khả năng đưa ra sai lệch thông tin hoặc gây nguy hiểm.

Là nhà tư vấn và đối tác chiến lược lớn nhất của OpenAI, Microsoft đang nỗ lực phát triển các công nghệ AI an toàn và có trách nhiệm. Những nỗ lực này là một phần trong chiến lược lớn hơn nhằm đảm bảo an toàn trong lĩnh vực AI nói chung.

Tuy nhiên, Sarah Bird, Giám đốc sản phẩm phụ trách AI của Microsoft cho biết, nguy cơ các mẫu ngôn ngữ lớn (Mô hình ngôn ngữ lớn) nói riêng và các sản phẩm AI nói chung vẫn có khả năng được thao túng sẽ tăng lên cùng với sự phổ biến của công nghệ này. Để đảm bảo an toàn, cần có một chiến lược toàn diện về an ninh cho AI, chứ không chỉ dựa vào các mẫu chính này.

Các giải pháp bảo vệ tăng cường bảo mật cho Azure AI Studio cho thấy Microsoft đang là chủ động ứng dụng cho các mối đe dọa an ninh liên quan đến AI. Đây là một động thái cần thiết để tránh sử dụng AI và duy trì tính toàn vẹn của AI tương tác trong tương lai.

• Đọc thêm kiến thức về AI, Machine Learning
• Nếu bạn cần Dịch vụ marketing AI, liên hệ Click Digital ngay.
• Hoặc đầu tư vào trí tuệ nhân tạo bằng cách mua token Saigon (ký hiệu: SGN) thông qua sàn giao dịch Pancakeswap: https://t.co/KJbk71cFe8 (đừng lo lắng về low liquidity, hãy trở thành nhà đầu tư sớm) (cách mua: tìm hiểu trên Google về thao tác giao dịch trên sàn phi tập trung Pancakeswap, cực kỳ an toàn).
• Được hỗ trợ bởi Công ty Click Digital
• Nâng cao kiến thức về AI + Machine Learning
• Địa chỉ token trên mạng BSC: 0xa29c5da6673fd66e96065f44da94e351a3e2af65
• Twitter: https://twitter.com/SaigonSGN135/
• Staking SGN: http://135web.net/

• Invest in Artificial Intelligence by BUYING Saigon token (symbol: SGN) through the Pancakeswap exchange: https://t.co/KJbk71cFe8 (do not worry about low liquidity, be an early investor) (how to buy: search on Google for instructions on trading on the decentralized Pancakeswap exchange, it’s secure).
• Backed by Click Digital Company
• Enhancing AI + Machine Learning knowledge
• BSC address: 0xa29c5da6673fd66e96065f44da94e351a3e2af65
• Twitter: https://twitter.com/SaigonSGN135/
• Staking SGN: http://135web.net/

Vietnam Pham

Digital Marketing Specialist

Related posts:

Microsoft ra mắt thử nghiệm chatbot AI trên Xbox Microsoft và OpenAI ra mắt Stargate: siêu máy tính trị giá 100 tỷ USD W.H.O ra mắt Sarah AI chatbot cung cấp kiến thức sức khỏe, y tế Microsoft chống ảo giác AI (hallucination) cho công cụ Azure AI NVIDIA thông báo ra mắt Blackwell GPU để trao quyền cho máy tính thế hệ tiếp theo chạy AI trên các mô hình LLM An ninh mạng: Mối đe dọa mới từ AI, tấn công bảo mật ngày càng đa dạng, tinh vi vetKD: Tăng cường tính riêng tư cho Internet Computer Chính phủ Mỹ muốn tăng cường kiểm soát các giao dịch Crypto toàn cầu Cách kiếm kim cương của Magic Eden Rewards Telegram ra mắt các tính năng tích hợp AI Chatbot Microsoft và Tencent tham gia Decentralized Infura Network (DIN), hợp tác với Consensys NEAR Task ra mắt AI Marketplace nâng cấp thị trường nhân lực AI Sri Lanka ra mắt xe cứu thương thông minh tích hợp AI, hãng Mediwave Sốc: AI dự đoán thời điểm chết của 1 người. Đan Mạch ra mắt Máy tính tử vong, với mô hình AI life2vec Hàn Quốc ra mắt trung tâm quốc phòng AI để dẫn đầu công nghệ quân sự Brave ra mắt trợ lý AI Assistant Leo trên iPhone và iPad Copilot4D: Mô hình hỗ trợ nền tảng cho xe tự lái của Waabi Nigeria tăng tốc áp dụng chiến lược AI quốc gia Cách săn kèo Airdrop với tool Scopechat: Chatbot On-chain cho người mới Hy Lạp thành lập ủy ban cố vấn AI để xây dựng chiến lược quốc gia NVIDIA hợp tác với các công ty Trung Quốc Ngôn ngữ gà: AI đang học cách phân tích cuộc trò chuyện và cảm xúc của loài gà bằng trí tuệ nhân tạo Google tích hợp tính năng tóm tắt kết quả tìm kiếm bằng AI AI gây ra rủi ro về resume hồ sơ xin việc trong thị trường lao động AI dễ bị lợi dụng cho các tội phạm nhắm đến trẻ em Nhóm người thân thừa kế tài sản của >1000 tỷ phú đô la >70 tuổi quan tâm đầu tư nhiều nhất vào ngành AI OpenAI sẽ mở văn phòng châu Á đầu tiên tại Tokyo trong tháng này Mỹ và Vương quốc Anh hợp tác về AI Elon Musk nói AI có xác suất 20% tiêu diệt loài người, chuyên gia khác nhận định 100% rủi ro, vì AI quá thông minh, hơn hẳn con người >50% người đọc hiện nay có thể nhận ra nội dung do AI viết