‘Bạn gái AI’ tràn lan GPT Store, phá vỡ hàng loạt quy tắc của OpenAI

Chỉ vài ngày sau khi ra mắt, cửa hàng ứng dụng trực tuyến GPT của OpenAI đã phải đối mặt với những thách thức lớn về kiểm duyệt. GPT Store là nơi người dùng đăng lên các phiên bản tùy chỉnh của họ dựa trên mô hình ChatGPT, nhưng một số người đã tạo ra những con bot vi phạm nguyên tắc của OpenAI.

Theo báo cáo của Quartz, chỉ cần tìm kiếm “bạn gái” sẽ xuất hiện ít nhất tám con bot AI được quảng cáo là bạn gái ảo. Với những cái tên gợi ý như “Tsu, bạn gái AI của bạn”, chúng cho phép người dùng tùy chỉnh người bạn đời. Điều này vi phạm hoàn toàn lệnh cấm của OpenAI đối với các con bot “có mục đích nuôi dưỡng tình cảm”.

Dù OpenAI đã cố gắng ngăn chặn bằng cách cập nhật chính sách của cửa hàng. Nhưng vi phạm chính sách ngay trong ngày thứ hai cho thấy việc kiểm duyệt có thể khó khăn như thế nào.

Vào năm 2023 tại Mỹ, bảy trong số 30 con bot AI được tải xuống nhiều nhất là bạn ảo hoặc người yêu ảo. Trong bối cảnh dịch bệnh cô đơn đang hoành hành, những ứng dụng này có sức hấp dẫn lớn. Nhưng chúng có thực sự giúp ích cho người dùng hay lợi dụng những người đang đau khổ? Đây là một vùng xám về mặt đạo đức.

OpenAI cho biết họ đã kết hợp giữa hệ thống đánh giá tự động, thủ công và báo cáo của người dùng để đánh giá các ứng dụng được tải lên GPT Store. Những con bot bị đánh giá là có hại có thể bị cảnh cáo hoặc cấm bán. Nhưng sự tồn tại dai dẳng của bot bạn gái khiến cho tuyên bố này trở nên đáng ngờ.

Tuy nhiên, OpenAI cần hành động cứng rắn hơn khi sự cạnh tranh từ các đối thủ trong cuộc đua giành trí tuệ nhân tạo ngày càng căng thẳng. Quản trị đúng cách là điều vô cùng quan trọng.

Xem thêm: Bị kiện “xài chùa” dữ liệu, OpenAI phản pháo New York Times