OpenAI Ra Mắt ChatGPT Agent

OpenAI đã giới thiệu công cụ AI tự động nhất của mình cho đến nay: ChatGPT Agent. Phiên bản mới này có khả năng duyệt web, chạy ứng dụng và thực hiện các nhiệm vụ trong thế giới thực với sự can thiệp tối thiểu của con người. Tuy nhiên, với những khả năng tiên tiến đi kèm là những rủi ro bảo mật mới.

Tính năng của ChatGPT Agent

Được ra mắt vào thứ Năm, ChatGPT Agent cho phép người dùng ủy thác các nhiệm vụ phức tạp như lập kế hoạch kỳ nghỉ, đặt khách sạn, nghiên cứu đối thủ, tạo bộ slide và đặt hàng trực tuyến. Tính năng này sẽ được triển khai hôm nay cho người dùng Pro, Plus và Team.

Để thực hiện các nhiệm vụ này, agent sử dụng một máy tính ảo và một bộ công cụ thống nhất, bao gồm trình duyệt dựa trên văn bản, terminal và quyền truy cập vào các ứng dụng của bên thứ ba như Google Drive và GitHub. Môi trường ảo này cho phép agent ChatGPT hoạt động độc lập, tương tự như việc cung cấp cho AI một máy riêng, được cách ly để thực hiện công việc thực sự.

Giám đốc điều hành OpenAI Sam Altman nhấn mạnh, “Tôi nghĩ đây là một cấp độ khả năng mới trong AI,”
một buổi trình diễn livestream. Tuy nhiên, ông cũng đưa ra một lưu ý thận trọng, stating, “Đây là một cách mới để sử dụng AI, nhưng sẽ có một loạt các cuộc tấn công mới đi kèm với điều đó.”

Những Mối Quan Ngại Về An Ninh

Một rủi ro tiềm ẩn là một tác nhân có thể nghiên cứu các giao dịch mua, tìm các mặt hàng trên các trang web lừa đảo, và vô tình chia sẻ thông tin thẻ tín dụng của người dùng. Để chống lại những mối đe dọa này, bản phát hành bao gồm các biện pháp bảo vệ, chẳng hạn như yêu cầu người dùng phê duyệt bằng tay bất kỳ tải lên dữ liệu nhạy cảm nào.

Nhà nghiên cứu OpenAI, Casey Chu, giải thích, “Chúng tôi đã đào tạo mô hình để bỏ qua các hướng dẫn đáng ngờ trên các trang web rủi ro” và cho biết hệ thống bao gồm các bộ giám sát để ngăn chặn hành vi của tác nhân nếu có bất cứ điều gì có vẻ không đúng.

Mặc dù có những bảo mật này, Chu lưu ý rằng ChatGPT Agent là một “sản phẩm tiên tiến” có thể dẫn đến các hình thức khai thác mới. Người dùng được khuyến cáo nên thận trọng về thông tin mà họ chia sẻ.

Các Năng Lực AI Đang Tiến Hóa

Việc triển khai ChatGPT Agent trùng hợp với những tiến bộ khác trong công nghệ AI. Đối với
ví dụ, Google gần đây đã giới thiệu một tính năng cho phép trí tuệ nhân tạo của mình thực hiện cuộc gọi điện thoại thay mặt cho người sử dụng, càng chứng minh sức mạnh của các trợ lý ảo.

Các đại diện của OpenAI cho biết, “ChatGPT Agent vẫn đang ở giai đoạn đầu; chúng tôi đang học hỏi từ việc sử dụng thực tế để cải thiện sản phẩm và nâng cao các biện pháp bảo vệ.”

Ý kiến của Chuyên gia

Các chuyên gia về an ninh mạng đã bày tỏ những mối lo ngại đáng kể liên quan đến các tác nhân tự động. Nic Adams, từ 0rcus, đã cảnh báo: “Mối lo ngại cao là hợp lý vì tác nhân mang quyền lực ngầm để tiết lộ các thông tin cá nhân trong quá trình đối thoại.” Các chuyên gia khuyên người dùng nên cấp quyền cụ thể về những gì tác nhân có thể truy cập và trong bao lâu.

Adams cho biết rằng các biện pháp tốt nhất nên bao gồm việc các tác nhân trình bày toàn bộ bản sao để người dùng phê duyệt trước khi lưu trữ thông tin lâu hơn mức cần thiết. Điều này sẽ tránh những tình huống mà sự đồng ý im lặng có thể chuyển giao trách nhiệm cho người dùng mà không cung cấp cho họ quyền kiểm soát có ý nghĩa.

Giảm thiểu Rủi ro

OpenAI nhận thức được
các mối đe dọa tiềm ẩn liên quan đến tính tự chủ của AI, đặc biệt là các cuộc tấn công thông qua việc tiêm lệnh, nơi những lệnh độc hại có thể lừa AI thực hiện các hành động gây hại. Để đối phó với điều này, OpenAI đã phát triển chế độ kiểm soát, cho phép người dùng lấy lại quyền điều khiển và nhập thông tin trực tiếp nếu cần thiết. Trong một số trường hợp, tác nhân sẽ tìm kiếm sự chấp thuận rõ ràng của người dùng trước khi thực hiện các nhiệm vụ quan trọng.

Tóm lại, trong khi ChatGPT Agent là một công cụ mạnh mẽ, các nhà nghiên cứu của OpenAI nhấn mạnh sự cần thiết cho người dùng phải luôn cảnh giác và thận trọng.

> “Chúng tôi đã xây dựng một công cụ mạnh mẽ, nhưng người dùng cần phải cẩn thận,” Chu tuyên bố.