Tính năng tạo ảnh Gemini của Google bị tạm dừng vì tạo ra hình ảnh gây tranh cãi

Google đã lên tiếng xin lỗi sau khi Gemini – sản phẩm AI của công ty đã tạo nên hình ảnh gây tranh cãi bởi sự thiếu sót về bối cảnh lịch sử. Google cũng đã tạm dừng dịch vụ tạo ảnh của Gemini ngay sau phản hồi. Cùng Techie tìm hiểu về thông tin này nhé!

Trình tạo hình ảnh AI này được Google ra mắt vào tháng 2 thông qua nền tảng Gemini (trước đây là Bard) trong nỗ lực bắt kịp OpenAI, khi công ty này vừa ra mắt một mô hình tổng hợp mới có khả năng tạo video theo yêu cầu của người dùng có tên Sora.

Tuy nhiên, gần đây mọi người phát hiện ra rằng khi yêu cầu tạo hình ảnh về một số sự kiện hoặc nhân vật lịch sử nhất định, kết quả thu được lại vô cùng ba chấm. Ví dụ, “Những Người Lập Quốc Hoa Kỳ” vốn được biết đến là những người da trắng, lại được mô tả thành một nhóm đa chủng tộc, bao gồm cả người da màu.

We're already working to address recent issues with Gemini's image generation feature. While we do this, we're going to pause the image generation of people and will re-release an improved version soon. https://t.co/SLxYPGoqOZ

— Google Communications (@Google_Comms) February 22, 2024

Ông Prabhakar Raghavan, đứng đầu mảng Google Search giải thích: “Thoạt đầu thứ chúng tôi mong muốn là Gemini có thể cho ra hình ảnh đa dạng nhiều màu da. Nhưng theo những gì đã xảy ra, mô hình phải trở nên thận trọng hơn nhiều so với dự định của chúng tôi, thậm chí từ chối trả lời hoàn toàn một số yêu cầu nhạy cảm từ người dùng.”

Làn sóng AI tạo video đang càn quét ngành công nghệ với sự tham gia của cả những gã khổng lồ như Meta, Google và các startup đầy tiềm năng như Stability AI. Meta sở hữu Make-A-Video, công cụ tiên phong cho phép người dùng tạo video từ mô tả bằng văn bản. Google không hề kém cạnh với Lumiere, mô hình AI tạo video chất lượng cao từ hình ảnh và văn bản.

Stability AI, một startup nổi tiếng, gây ấn tượng với DreamStudio, công cụ tạo video miễn phí, dễ sử dụng, thu hút lượng lớn người dùng.

Amazon cũng tham gia cuộc chơi với Create with Alexa, mô hình chuyên tạo nội dung hoạt hình dạng ngắn dành cho trẻ em dựa trên prompt.

Sự đa dạng trong các công cụ AI tạo video cho thấy tiềm năng to lớn của công nghệ này trong tương lai, mở ra nhiều ứng dụng sáng tạo trong các lĩnh vực như giải trí, giáo dục, quảng cáo, v.v.

Xem thêm: AI đang làm rung chuyển việc hẹn hò trực tuyến với các chatbot “tán tỉnh”