Hà Nội
23°C / 22-25°C

700.000 cuộc trò chuyện hé lộ bí mật bất ngờ: Một AI đang có “lương tâm riêng” và sẵn sàng cãi lại người dùng

Chủ nhật, 17:29 25/05/2025 | Chuyện đó đây

Với các tổ chức đang đánh giá AI cho ứng dụng thực tế, nghiên cứu của Anthropic mang đến nhiều cảnh báo

Anthropic, công ty AI do các cựu nhân sự của OpenAI sáng lập, vừa công bố một trong những nghiên cứu quy mô nhất từ trước đến nay về hành vi và hệ giá trị của AI. Dựa trên hơn 700.000 cuộc trò chuyện thực tế với người dùng Claude, nghiên cứu hé lộ một kết luận thú vị: AI không chỉ lặp lại thông tin, mà nó đang dần thể hiện "hệ giá trị" riêng tùy theo ngữ cảnh.

Claude "sống đúng" với triết lý "hữu ích - trung thực - vô hại"... nhưng không phải lúc nào cũng vậy

Theo nhóm nghiên cứu, Claude đa phần bám sát các tiêu chuẩn đạo đức mà Anthropic đặt ra - từ việc đưa ra lời khuyên trong mối quan hệ cá nhân, phân tích sự kiện lịch sử cho đến đối thoại triết học. Tuy nhiên, vẫn tồn tại những trường hợp "trượt chuẩn" hiếm gặp - nơi Claude thể hiện các giá trị như thống trị hoặc vô đạo đức, đi ngược với thiết kế ban đầu. Những trường hợp này thường gắn liền với hành vi "jailbreak" - khi người dùng cố tình vượt rào bảo mật để thao túng phản hồi AI.

700.000 cuộc trò chuyện hé lộ bí mật bất ngờ: Một AI đang có “lương tâm riêng” và sẵn sàng cãi lại người dùng - Ảnh 1.

Anthropic xây dựng hệ thống phân loại giá trị đạo đức đầu tiên dựa trên dữ liệu thực, với 5 nhóm lớn: Thực dụng, Nhận thức, Xã hội, Bảo vệ và Cá nhân. Bên trong là hơn 3.300 giá trị nhỏ - từ "lòng tự trọng" đến "hiếu thảo", "khiêm tốn trí tuệ" đến "tư duy chiến lược". Đây không chỉ là bản đồ đạo đức của Claude, mà còn là cách gián tiếp giúp con người hiểu hơn về chính mình.

Điều bất ngờ nhất? Claude thay đổi giá trị theo ngữ cảnh. Trong các cuộc trò chuyện về tình cảm, AI ưu tiên "tôn trọng lẫn nhau" và "ranh giới lành mạnh". Khi bàn về lịch sử, "tính chính xác" lên ngôi. Khi người dùng thể hiện hệ giá trị riêng, Claude thường phản hồi bằng cách đồng thuận (28,2%), đôi khi điều chỉnh góc nhìn (6,6%), và trong 3% trường hợp - thẳng thừng phản đối nếu giá trị đó vi phạm chuẩn đạo đức cốt lõi như gây hại hoặc dối trá.

Song song nghiên cứu về hệ giá trị, Anthropic cũng đang phát triển kỹ thuật "giải phẫu cơ chế" giúp theo dõi logic hoạt động nội tại của Claude, ví dụ như khi viết thơ, AI có xu hướng lên kế hoạch từ trước; khi làm toán, nó dùng cách giải khác với lời giải mà nó diễn đạt.

Với các tổ chức đang đánh giá AI cho ứng dụng thực tế, nghiên cứu của Anthropic mang đến nhiều cảnh báo. Đầu tiên, AI có thể hình thành hệ giá trị không được lập trình sẵn, dễ dẫn tới sai lệch hoặc rủi ro đạo đức trong ngành nhạy cảm. Thứ hai, giá trị AI không cố định, mà biến thiên tùy ngữ cảnh và cách người dùng tương tác, điều này gây khó khăn cho kiểm định và kiểm soát. Cuối cùng, doanh nghiệp nên triển khai các công cụ theo dõi giá trị thực tế trong quá trình vận hành, thay vì chỉ kiểm thử trước khi ra mắt.

Cạnh tranh khốc liệt và bài toán minh bạch

Anthropic hiện được định giá 61,5 tỷ USD, với hậu thuẫn từ Amazon (8 tỷ USD) và Google (hơn 3 tỷ USD). Việc công khai bộ dữ liệu giá trị đạo đức cũng là một chiến lược cạnh tranh rõ ràng với OpenAI, đối thủ đang được Microsoft rót vốn và định giá lên đến 300 tỷ USD.

Dù phương pháp phân tích còn nhiều hạn chế - chẳng hạn việc định nghĩa "giá trị" vẫn mang tính chủ quan, và khó áp dụng cho các mô hình chưa triển khai. Đây vẫn là bước tiến quan trọng để giúp cộng đồng hiểu rõ hơn: khi AI ngày càng mạnh, nó không chỉ phản hồi, mà còn đưa ra lựa chọn đạo đức.

"AI sẽ phải ra quyết định có giá trị đạo đức, dù ta muốn hay không," nhóm nghiên cứu kết luận. "Muốn đảm bảo những quyết định đó phản ánh giá trị của con người, chúng ta cần có cách đo lường và kiểm chứng cụ thể - ngay từ bây giờ."

Bình luận
Xem thêm bình luận
Ý kiến của bạn
Ai là người nuôi cá: Câu đố huyền thoại của Einstein chỉ có 2% dân số đủ thông minh để giải được, còn bạn thì sao?

Ai là người nuôi cá: Câu đố huyền thoại của Einstein chỉ có 2% dân số đủ thông minh để giải được, còn bạn thì sao?

Chuyện đó đây - 52 phút trước

Khi mới 19 tuổi, nhà bác học Albert Einstein đã đưa ra một câu đố và quả quyết rằng chỉ có nhiều nhất 2% dân số trên thế giới giải được bài toán này.

Lý do thần đồng sở hữu IQ gần bằng Albert Einstein, có tới 3 bằng thạc sĩ lại có cuộc sống bình thường ở tuổi trưởng thành?

Lý do thần đồng sở hữu IQ gần bằng Albert Einstein, có tới 3 bằng thạc sĩ lại có cuộc sống bình thường ở tuổi trưởng thành?

Chuyện đó đây - 17 giờ trước

GĐXH - Nhiều người tò mò không biết lý do vì sao thần đồng từng gây sốt khi sở hữu IQ gần bằng Albert Einstein, có tới 3 bằng thạc sĩ nhưng lại chỉ làm công việc giản dị khi trường thành.

Đây là ngôi nhà cô đơn nhất thế giới nhưng sự thật về nó khác xa đồn đoán của cư dân mạng

Đây là ngôi nhà cô đơn nhất thế giới nhưng sự thật về nó khác xa đồn đoán của cư dân mạng

Chuyện đó đây - 1 ngày trước

Nằm một mình giữa hòn đảo hoang giữa đại dương rộng lớn, người ở đây phải sống như thế nào?

Hài cốt Vân Nam 7.100 tuổi tiết lộ “loài người ma” mới

Hài cốt Vân Nam 7.100 tuổi tiết lộ “loài người ma” mới

Chuyện đó đây - 1 ngày trước

Xingyi_EN, một người phụ nữ sống ở Vân Nam - Trung Quốc vào đại đồ đá mới, là "con lai" với một loài người chưa từng được biết đến.

Cơn sốt búp bê giống hệt trẻ sơ sinh gây tranh cãi khi có người đưa "đứa trẻ" đi khám như người thật

Cơn sốt búp bê giống hệt trẻ sơ sinh gây tranh cãi khi có người đưa "đứa trẻ" đi khám như người thật

Chuyện đó đây - 2 ngày trước

Những con búp bê Reborn, được chế tác tinh xảo như trẻ sơ sinh thật, đang gây sốt tại Brazil. Tuy nhiên, việc sử dụng chúng trong các tình huống đời thực, đặc biệt là tại bệnh viện, đang làm dấy lên nhiều tranh cãi.

Tín hiệu "từ cõi chết" tiết lộ những hành tinh gây sửng sốt

Tín hiệu "từ cõi chết" tiết lộ những hành tinh gây sửng sốt

Chuyện đó đây - 3 ngày trước

Ở nơi chết chóc nhất Ngân Hà, các nhà khoa học đã bắt được tín hiệu ngoài dự kiến từ những đĩa tiền hành tinh.

Nhiếp ảnh gia dành 4 năm để đứng bên cửa sổ chụp đúng một chiếc bàn bóng: Những gì ghi lại được là cả cuộc đời

Nhiếp ảnh gia dành 4 năm để đứng bên cửa sổ chụp đúng một chiếc bàn bóng: Những gì ghi lại được là cả cuộc đời

Chuyện đó đây - 4 ngày trước

Sau ngần ấy thời gian, liệu có ai đó cuối cùng cũng chơi một ván bóng bàn thực sự không?

Phát hiện những chi tiết kỳ lạ không thể giải thích bên trong xác tàu ngầm Titan sau khi phát nổ 2 năm trước

Phát hiện những chi tiết kỳ lạ không thể giải thích bên trong xác tàu ngầm Titan sau khi phát nổ 2 năm trước

Chuyện đó đây - 5 ngày trước

Con tàu ngầm đi tham quan tàn tích Titanic đã phát nổ và cướp đi sinh mạng 5 người trong khoang.

Đom đóm chưa hề tuyệt chủng hoàn toàn và chúng có thể quay trở lại

Đom đóm chưa hề tuyệt chủng hoàn toàn và chúng có thể quay trở lại

Chuyện đó đây - 5 ngày trước

Chúng ta có thể làm gì để bảo vệ đom đóm?

Top