‘Bạn gái AI’ tràn lan GPT Store, phá vỡ hàng loạt quy tắc của OpenAI

Chỉ vài ngày sau khi ra mắt, cửa hàng ứng dụng trực tuyến GPT của OpenAI đã phải đối mặt với những thách thức lớn về kiểm duyệt. GPT Store là nơi người dùng đăng lên các phiên bản tùy chỉnh của họ dựa trên mô hình ChatGPT, nhưng một số người đã tạo ra những con bot vi phạm nguyên tắc của OpenAI.

Các ứng dụng hẹn hò ảo trên gpt store
Đã có nhiều ứng dụng AI mới xuất hiện trên GPT Store

Theo báo cáo của Quartz, chỉ cần tìm kiếm “bạn gái” sẽ xuất hiện ít nhất tám con bot AI được quảng cáo là bạn gái ảo. Với những cái tên gợi ý như “Tsu, bạn gái AI của bạn”, chúng cho phép người dùng tùy chỉnh người bạn đời. Điều này vi phạm hoàn toàn lệnh cấm của OpenAI đối với các con bot “có mục đích nuôi dưỡng tình cảm”.

Dù OpenAI đã cố gắng ngăn chặn bằng cách cập nhật chính sách của cửa hàng. Nhưng vi phạm chính sách ngay trong ngày thứ hai cho thấy việc kiểm duyệt có thể khó khăn như thế nào.

Vào năm 2023 tại Mỹ, bảy trong số 30 con bot AI được tải xuống nhiều nhất là bạn ảo hoặc người yêu ảo. Trong bối cảnh dịch bệnh cô đơn đang hoành hành, những ứng dụng này có sức hấp dẫn lớn. Nhưng chúng có thực sự giúp ích cho người dùng hay lợi dụng những người đang đau khổ? Đây là một vùng xám về mặt đạo đức.

OpenAI cho biết họ đã kết hợp giữa hệ thống đánh giá tự động, thủ công và báo cáo của người dùng để đánh giá các ứng dụng được tải lên GPT Store. Những con bot bị đánh giá là có hại có thể bị cảnh cáo hoặc cấm bán. Nhưng sự tồn tại dai dẳng của bot bạn gái khiến cho tuyên bố này trở nên đáng ngờ.

Tuy nhiên, OpenAI cần hành động cứng rắn hơn khi sự cạnh tranh từ các đối thủ trong cuộc đua giành trí tuệ nhân tạo ngày càng căng thẳng. Quản trị đúng cách là điều vô cùng quan trọng.

Xem thêm: Bị kiện “xài chùa” dữ liệu, OpenAI phản pháo New York Times

Khám phá thêm
Temu, một ứng dụng mua sắm Trung Quốc, đang gây chấn động trên internet với những sản phẩm rất rẻ....
Trong bài viết này, Techie sẽ giới thiệu đến bạn bản chất của tính năng constraints và auto-layout figma, cũng...
“Chúng ta đang sống trong thế giới VUCA” – Câu nói này đã diễn tả đúng tình trạng thế giới...
Theo một “nguồn tin mật” cho hay, Ghibli chính thức công bố trailer phần tiếp theo của tựa phim Vùng...
Thuật toán Dijkstra là một công cụ quan trọng trong lý thuyết đồ thị và tối ưu hóa. Với khả...
Nếu như các ứng dụng hẹn hò như Tinder, Okcupid, Facebook Dating vẫn chưa đem đến cho bạn một anh...
Công cụ AI (trí tuệ nhân tạo) là một phần mềm hoặc hệ thống được phát triển dựa trên các...
Với tỷ lệ dân số sử dụng Internet chiếm đến hơn 70%, Việt Nam luôn được coi là thị trường...