Bình Minh của các Đại lý Thông minh Cảm xúc

Bình minh của các đại lý thông minh cảm xúc—được xây dựng cho cả tính khí tĩnh và tương tác động—đã đến, như được chứng minh bởi hai bài nghiên cứu không liên quan được công bố tuần trước.

Thời điểm này rất nhạy cảm. Hầu như hàng ngày, các bản tin ghi lại những ví dụ nơi các chatbot đã thúc đẩy người dùng không ổn định về cảm xúc hướng tới việc làm hại bản thân hoặc người khác. Tuy nhiên, khi xem xét tổng thể, các nghiên cứu gợi ý rằng AI đang tiến vào một lĩnh vực mà tính cách và cảm xúc có thể thay đổi đáng kể cách mà các đại lý lý luận, nói chuyện và đàm phán.

Một nhóm đã chỉ ra cách khởi động các mô hình ngôn ngữ lớn với các mẫu hình tâm lý bền vững, trong khi nhóm khác chứng minh rằng các đại lý có thể phát triển các chiến lược cảm xúc trong các cuộc đàm phán đa lượt.

Tính cách và cảm xúc không còn chỉ là lớp bóng bề mặt cho AI—chúng đang trở thành những tính năng chức năng. Tính khí tĩnh làm cho các đại lý trở nên dễ dự đoán và đáng tin cậy hơn, trong khi các chiến lược thích ứng nâng cao hiệu suất trong các cuộc đàm phán và làm cho các tương tác trở nên thú vị hơn.
hành động cảm thấy kỳ lạ như con người.

Nhưng sự đáng tin cậy đó đặt ra những câu hỏi khó khăn: Nếu một AI có thể nịnh nọt, thuyết phục, hoặc tranh luận với sự tinh tế về cảm xúc, ai sẽ chịu trách nhiệm khi những chiến thuật đó vượt qua ranh giới thành thao túng, và làm thế nào bạn có thể kiểm toán ‘sự tương thích cảm xúc’ trong các hệ thống được thiết kế để uốn nắn cả cảm xúc lẫn logic?

Tạo hình cho AI một nhân cách

Trong Các Đại diện AI Tăng cường Tâm lý, Maciej Besta của Viện Công nghệ Liên bang Thụy Sĩ tại Zurich và các đồng nghiệp đã đề xuất một khuôn khổ gọi là MBTI-trong-Suy nghĩ. Thay vì đào tạo lại các mô hình, họ dựa vào kỹ thuật prompt để khóa các đặc điểm nhân cách theo các trục nhận thức và cảm xúc.

“Dựa trên Chỉ số Kiểu Myers-Briggs (MBTI), phương pháp của chúng tôi giúp các đại diện có những hình mẫu nhân cách riêng biệt thông qua kỹ thuật prompt,” các tác giả viết. Điều này cho phép “kiểm soát hành vi trên hai trục cơ bản của tâm lý học con người, nhận thức và cảm xúc,” họ bổ sung.

Các nhà nghiên cứu đã thử nghiệm điều này bằng cách gán cho các mô hình ngôn ngữ các đặc điểm như ‘cảm xúc
‘biểu cảm’ hoặc ‘được định hình phân tích’, sau đó đo lường hiệu suất. Các tác nhân biểu cảm xuất sắc trong việc tạo ra câu chuyện, trong khi các tác nhân phân tích vượt trội trong lý luận lý thuyết trò chơi. Để đảm bảo các tính cách tồn tại, nhóm đã tích hợp bài kiểm tra 16Personalities để xác thực.

“Để đảm bảo sự bền vững của các đặc điểm, chúng tôi tích hợp bài kiểm tra 16Personalities chính thức cho việc xác minh tự động,” tài liệu giải thích. Nói cách khác, AI phải liên tục vượt qua bài kiểm tra tính cách của con người trước khi được tính là đã được định hình tâm lý.

Kết quả là một hệ thống mà các nhà phát triển có thể triệu hồi các tác nhân với những tính cách nhất quán—một trợ lý đồng cảm, một thương lượng lạnh lùng và lý trí, hoặc một người kể chuyện kịch tính—mà không cần sửa đổi mô hình cơ bản.

Dạy AI Cảm Nhận Theo Thời Gian Thực

Trong khi đó, EvoEmo: Chính Sách Cảm Xúc Tiến Hóa cho Các Tác Nhân LLM trong Thương Lượng Nhiều Lượt, của Yunbo Long và các đồng tác giả từ Đại học Cambridge, giải quyết vấn đề ngược lại: không chỉ tính cách mà một tác nhân có, mà còn cách i
nó có thể thay đổi cảm xúc một cách linh hoạt trong quá trình đàm phán.

Hệ thống mô hình hóa cảm xúc như một phần của Quy trình Quyết định Markov, nơi mà các kết quả phụ thuộc vào lựa chọn hiện tại và một chuỗi các trạng thái trước đó. EvoEmo sau đó sử dụng học tăng cường tiến hóa để tối ưu hóa những con đường cảm xúc đó. Như các tác giả đã viết:

“EvoEmo mô hình hóa các chuyển tiếp trạng thái cảm xúc như một Quy trình Quyết định Markov và sử dụng tối ưu hóa di truyền dựa trên quần thể để phát triển các chính sách cảm xúc có phần thưởng cao trong các kịch bản đàm phán đa dạng.”

Thay vì cố định tông cảm xúc của một tác nhân, EvoEmo cho phép mô hình thích ứng—trở nên hòa giải, quyết đoán, hoặc hoài nghi tùy thuộc vào dòng chảy của cuộc đối thoại. Trong các bài kiểm tra, các tác nhân EvoEmo liên tục vượt trội hơn cả những tác nhân cơ bản đơn thuần và những tác nhân có cảm xúc tĩnh.

“EvoEmo liên tục vượt trội hơn cả các tiêu chuẩn cơ bản,” bài báo lưu ý, “đạt được tỷ lệ thành công cao hơn, hiệu suất tốt hơn, và tiết kiệm hơn cho người mua.”

Nói đơn giản: trí tuệ cảm xúc không chỉ là một lớp phủ bên ngoài; nó có thể đo lường được.
cải thiện kết quả trong các nhiệm vụ như thương lượng.

Hai Mặt Của Một Đồng Xu

Thoạt nhìn, các tài liệu có vẻ không liên quan. Một tài liệu nói về nguyên mẫu; tài liệu còn lại nói về chiến lược. Nhưng cùng nhau, chúng phác thảo một bản đồ hai phần về sự tiến hóa tiềm năng của AI:

MBTI-in-Thoughts đảm bảo một tác nhân có tính cách nhất quán—có thể là đồng cảm hoặc lý trí, biểu cảm hoặc kiềm chế. EvoEmo đảm bảo rằng tính cách có thể linh hoạt qua các lượt trò chuyện, định hình kết quả thông qua chiến lược cảm xúc. Kết hợp cả hai có tiềm năng đáng kể.

Hãy tưởng tượng một bot dịch vụ khách hàng với sự ấm áp kiên nhẫn của một cố vấn nhưng vẫn biết khi nào nên giữ nguyên chính sách—hoặc một bot thương lượng bắt đầu một cách hòa nhã và trở nên quyết đoán hơn khi mức độ rủi ro tăng lên. Vâng, chúng ta có thể đang gặp nguy.

Sự tiến hóa của AI trước đây tập trung vào quy mô—nhiều tham số hơn, nhiều dữ liệu hơn, nhiều sức mạnh lý luận hơn. Hai tài liệu này gợi ý rằng một chương mới đang nổi lên có thể tập trung vào các lớp cảm xúc: cung cấp cho các tác nhân khung tính cách và dạy chúng cách di chuyển những thứ đó.
cơ bắp trong thời gian thực. Các chatbot thế hệ tiếp theo sẽ không chỉ suy nghĩ khó hơn – chúng sẽ dỗi, nịnh nọt và âm thầm hoạch định nhiều hơn nữa.