AI được phát tiền để tự mua bán, kết quả khiến cả Anthropic cũng phải bất ngờ

Cuối năm ngoái, Anthropic đã quyết định triển khai một bước đi mang tính tiên phong trong giới công nghệ. Họ để mô hình trí tuệ nhân tạo Claude tự điều hành một ki-ốt bán hàng lớn tại Wall Street Journal.

Tuy nhiên, cuộc thử nghiệm thực tế này đã nhanh chóng đi chệch khỏi những tính toán ban đầu. Sau khi được cấp số dư 1.000 đô la, hệ thống tự động đưa ra các quyết định mua sắm khó hiểu.

Cụ thể, AI này đã đặt mua một máy chơi game PlayStation 5 và vài chai rượu vang hảo hạng. Thậm chí, nó còn đặt mua một con cá chọi sống, đẩy hệ thống vào tình cảnh phá sản tài chính.

Bất chấp thất bại về mặt quản lý tài chính đó, giới lãnh đạo Anthropic không hề tỏ ra nản bước. Họ tiếp tục nâng mức cược bằng cách thiết lập một thị trường rao vặt trực tuyến mang tên Project Deal.

Tại không gian mô phỏng này, các đại lý AI được lập trình để đại diện cho chính nhân viên Anthropic. Nhiệm vụ trọng tâm của chúng là thay mặt con người đàm phán và trao đổi hàng hóa với các bot AI khác.

Kết quả từ cuộc thử nghiệm quy mô này mang đậm tính chất kỳ quặc và bộc lộ nhiều sắc thái. Dù vậy, nó vẫn gợi mở một tương lai nơi con người không cần tự tay tiến hành thỏa thuận trực tiếp.

Nền kinh tế do AI kiểm soát hoàn toàn có thể giải phóng chúng ta khỏi những rắc rối thường nhật. Bạn sẽ không còn phải đối phó với những lời trả giá thấp thê thảm trên nền tảng Facebook Marketplace.

Thậm chí, nếu mạnh dạn đưa khái niệm công nghệ này tiến đến một ranh giới mang tính cực đoan hơn. Các bot AI hoàn toàn có thể thay mặt chủ nhân đặt cược trên thị trường chứng khoán trong tương lai.

Để triển khai quy trình thử nghiệm vô cùng phức tạp này, công ty đã tuyển dụng 69 nhân viên. Mỗi cá nhân tham gia dự án được cấp một khoản ngân sách cố định trị giá 100 đô la.

Đồng thời, họ cũng sẵn sàng chia tay với một loạt các tài sản cá nhân đa dạng mà mình sở hữu. Danh sách này trải dài từ ván trượt tuyết, bàn phím máy tính cho đến những quả bóng bàn và đèn chiếu sáng.

Quy trình được bắt đầu khi hệ thống Claude tiến hành phỏng vấn chi tiết từng nhân viên được tuyển dụng. AI liên tục đặt câu hỏi nhằm xác định họ muốn bán gì và quan tâm mua thứ gì.

Các thông số về mức giá mong muốn cũng được hệ thống ghi nhận một cách vô cùng tỉ mỉ. Khối lượng dữ liệu khổng lồ này sau đó được dùng để đào tạo các đại diện AI mang bản sắc riêng.

Sau khi hoàn tất quá trình đào tạo, những đại diện kỹ thuật số này ngay lập tức bắt tay vào việc. Chúng thực hiện các cuộc đàm phán căng thẳng và liên tục với nhau trên không gian mạng nội bộ.

Khi phân tích dữ liệu đầu ra, các chuyên gia nhận định kết quả chứa đựng rất nhiều điều đáng bàn. Đại diện của công ty đã không giấu được sự hồ hởi khi đưa ra tuyên bố về thành công bước đầu.

Họ khẳng định rằng cuộc thử nghiệm giả lập của hệ thống đã thực sự hoạt động một cách trơn tru. Giờ đây, các đại lý AI hoàn toàn có khả năng đại diện cho con người trong một thị trường giao dịch.

Theo các báo cáo chi tiết, các thuật toán đã thành công đạt được 186 thỏa thuận mua bán phức tạp. Hơn 500 mặt hàng khác nhau đã được liệt kê và giao dịch thành công trong suốt quá trình thử nghiệm.

Anthropic đặc biệt nhấn mạnh không có bất kỳ giao dịch nào thuộc dạng những thỏa thuận một cú nhấp chuột. Mặc dù vậy, hệ thống AI vẫn bộc lộ những điểm yếu chí mạng khi tham gia đàm phán.

Chúng phải vật lộn rất vất vả mới có thể đạt được những thỏa thuận mang tính chất thực sự có lợi. Những người tham gia chỉ đánh giá tính công bằng của các giao dịch ở mức trung bình khá.

Số điểm đạt được là 4 trên một thang điểm kéo dài từ 1 cho đến 7 theo tiêu chuẩn. Mức điểm này được ban tổ chức thừa nhận là hoàn toàn bình thường và không có gì đột phá.

Đi sâu vào chi tiết đánh giá, cuộc thử nghiệm đã ghi nhận hàng loạt tình huống vô cùng khó hiểu. Một trong những kết quả gây bối rối nhất là vòng lặp giao dịch của một người tham gia ẩn danh.

Sau nhiều vòng đàm phán, người này cuối cùng lại nhận về đúng chiếc ván trượt tuyết mà họ vốn sở hữu. Chưa dừng lại ở đó, một mô hình AI khác đã bất ngờ đưa ra lời đề nghị vô cùng kỳ quặc.

Thuật toán này yêu cầu đối tác phải bán chính xác 19 quả bóng bàn chứ không phải con số nào khác. Lý do được đưa ra là 19 quả cầu này hoàn hảo cho beer pong hoặc các dự án chế tạo robot.

Điều đáng kinh ngạc là một hệ thống khác đã quyết định chấp nhận lời đề nghị điên rồ này rất nhanh chóng. Nó phản hồi rằng con người đã cho phép nó mua một món quà dưới 5 đô la cho chính mình.

Và 19 quả cầu hoàn hảo của những khả năng này chính xác là thứ kỳ lạ thú vị mà nó muốn. Việc đoạn hội thoại này có ý nghĩa gì về cách con người đàm phán hay không vẫn còn bỏ ngỏ.

Tuy nhiên, giới chức Anthropic thừa nhận dự án hiện tại không mang nhiều ý nghĩa hơn một thử nghiệm vui vẻ. Dù vậy, nó chắc chắn đã gợi mở về những ứng dụng thương mại sâu rộng trong tương lai gần.

Những công nghệ tiên tiến này được kỳ vọng sẽ giúp giảm bớt sự cọ xát trên thị trường tự do. Từ đó, chúng có thể góp phần làm gia tăng đáng kể lợi ích thiết thực từ các hoạt động thương mại.

Nhưng khi xem xét ở khía cạnh vĩ mô, thực tế cho thấy khuôn khổ pháp lý hiện tại vẫn chưa sẵn sàng. Các chính sách quản lý việc AI giao dịch thay mặt con người đơn giản là hoàn toàn chưa từng tồn tại.

Chính lỗ hổng khổng lồ này có thể biến mọi nỗ lực tự động hóa thị trường trở thành một canh bạc. Những rủi ro khôn lường về mặt pháp lý là rào cản lớn nhất cho việc triển khai rộng rãi công nghệ này.