Khi AI có thể hành động, ai kiểm soát AI? Với AI Agent, giờ đây hệ thống có thể đọc dữ liệu, gọi công cụ và thực hiện hành động thay mặt người dùng. Điều đó tạo ra những cơ hội mới, đồng thời cũng làm thay đổi các yêu cầu về bảo mật. Câu hỏi không còn đơn giản là “AI có thể làm gì?” Đó là “AI nên được phép làm gì?”. Do đó, một cách tiếp cận bảo mật AI thực tế cần phải nhìn xa hơn bản thân mô hình và xem xét toàn bộ chuỗi tương tác: Dữ liệu - Thông tin nào Đại lý có thể truy cập? Lời nhắc - Hướng dẫn nào có thể ảnh hưởng đến hành vi của nó? Mô hình - Mô hình được quản lý và ràng buộc như thế nào? Đại lý - Những hành động nào được phép thực hiện? Công cụ - Nó có thể truy cập những hệ thống nào và trong những điều kiện nào? Đây là nơi mà các rào cản AI - các quy tắc, chính sách và kiểm soát kỹ thuật giúp giữ cho hệ thống AI an toàn và trong các ranh giới xác định, trở nên quan trọng. Mục tiêu không phải là slow AI ngừng hoạt động mà là cho phép AI hoạt động tự chủ trong khi vẫn duy trì trong phạm vi dự kiến, giảm nguy cơ truy cập dữ liệu không phù hợp, lạm dụng các công cụ được kết nối hoặc các hành động ngoài ý muốn. Có một mặt khác của phương trình này: Đại lý AI cũng có thể tự tăng cường an ninh mạng. Ví dụ: trong phân tích Phần mềm độc hại, Đại lý có thể hỗ trợ các nhiệm vụ từ trích xuất Chỉ báo thỏa hiệp và phân tích cấu hình cho đến kỹ thuật đảo ngược và giải mã. Điều này có thể giúp các nhóm bảo mật xử lý các mối đe dọa phức tạp nhanh hơn trong khi vẫn giữ chuyên môn của con người làm trung tâm điều tra và ra quyết định. Tại VGS, chúng tôi hỗ trợ các doanh nghiệp khám phá và áp dụng các giải pháp Tác nhân AI bằng cách tận dụng khả năng mạnh mẽ của VNPT về cả AI và An ninh mạng, được hỗ trợ bởi các trung tâm chuyên môn và các công ty con có chuyên môn sâu trong các lĩnh vực này. Thông qua vai trò tư vấn của chúng tôi, VGS kết nối các doanh nghiệp với kiến ​​thức chuyên môn và giải pháp phù hợp trên hệ sinh thái VNPT, giúp họ nắm bắt được mức tăng năng suất của AI trong khi vẫn đảm bảo rằng việc sử dụng nó vẫn an toàn, được quản lý tốt và trong đúng ranh giới. Nguồn liên quan: https://lnkd.in/gdscAvzC VNPT Global Solutions Xây dựng để vận hành. Đáng tin cậy để cung cấp.