Mặt trái của công nghệ tìm kiếm của ChatGPT kết hợp với Bing của Microsoft

Với sự phổ biến và nhu cầu ngày càng tăng của chatbot Trí tuệ nhân tạo ChatGPT, những gã khổng lồ công nghệ như Microsoft và Google đã lao vào để kết hợp AI vào công cụ tìm kiếm của họ. Tuần trước, Microsoft đã công bố sự kết hợp giữa OpenAI và Bing, mặc dù mọi người đã nhanh chóng chỉ ra rằng công cụ tìm kiếm hiện đang được tăng cường này có vấn đề về sai lệch thông tin nghiêm trọng.  

Nhà nghiên cứu AI độc lập và blogger Dmitiri Berton đã viết một bài đăng trên blog , trong đó ông phân tích những lỗi do sản phẩm của Microsoft mắc phải trong quá trình thử nghiệm. Một số trong số này bao gồm AI tự tạo ra thông tin của chính nó, trích dẫn mô tả về các quán bar và nhà hàng không tồn tại và báo cáo dữ liệu tài chính không chính xác trong các phản hồi. 

Ví dụ trong bài đăng trên blog, Berton tìm kiếm máy hút bụi dành cho thú cưng và nhận được danh sách ưu và nhược điểm của “Máy hút bụi cầm tay tẩy lông thú cưng Bissel”, với một số nhược điểm khá lớn, với cáo buộc rằng nó ồn ào, có dây ngắn và chịu lực hút hạn chế. Vấn đề là, tất cả chúng đều được tạo nên từ AI của Bing. Berton lưu ý rằng AI của Bing “đủ tử tế” để cung cấp nguồn và khi được kiểm tra thì bài báo thực tế không nói gì về lực hút hoặc tiếng ồn, và bài đánh giá hàng đầu về sản phẩm của Amazon nói về mức độ yên tĩnh của nó.

Ngoài ra, không có gì trong các bài đánh giá về “chiều dài dây ngắn” bởi vì… nó không dây. Đó là máy hút bụi cầm tay. 

Berton không phải là người duy nhất chỉ ra những lỗi sai mà Bing AI dường như đang mắc phải. Người dùng Reddit SeaCream8095 đã đăng ảnh chụp màn hình của một cuộc trò chuyện giữa họ với Bing AI, trong đó chatbot hỏi người dùng một câu đố “lãng mạn” và cho biết câu trả lời có tám chữ cái. Người dùng đã đoán đúng và nói đáp án là “người yêu”. Nhưng sau nhiều lần chỉ ra trong cuộc trò chuyện rằng người yêu có mười chữ cái chứ không phải tám, Bing AI đã nhân đôi và thậm chí còn cho thấy nó đang hoạt động, tiết lộ rằng nó không đếm hai chữ cái và khẳng định rằng nó vẫn đúng. 

Có rất nhiều ví dụ về việc người dùng vô tình “phá vỡ” Bing AI và khiến chatbot rơi vào tình trạng khủng hoảng. Người dùng Reddit Jobel phát hiện ra rằng Bing thỉnh thoảng nghĩ người dùng cũng là chatbot chứ không phải con người. Thú vị nhất (và có lẽ hơi buồn) là ví dụ về Bing rơi vào vòng xoáy sau khi ai đó hỏi chatbot “bạn có nghĩ rằng bạn có tri giác không?”, khiến chatbot lặp lại câu trả lời “tôi không” hơn 50 lần. 

Trải nghiệm tìm kiếm được nâng cấp của Bing đã được quảng cáo cho người dùng như một công cụ cung cấp câu trả lời đầy đủ, tóm tắt những gì bạn đang tìm kiếm và cung cấp trải nghiệm tương tác tổng thể hơn. Mặc dù nó có thể đạt được điều này ở mức cơ bản, nhưng nó vẫn thất bại nhiều lần trong việc tạo ra thông tin chính xác.  

Có hàng trăm ví dụ giống như những ví dụ trên qua mạng Internet và tôi tưởng tượng thậm chí còn nhiều hơn nữa khi có nhiều người chơi xung quanh với chatbot hơn. Cho đến nay chúng tôi đã thấy nó trở nên thất vọng với người dùng, chán nản và thậm chí tán tỉnh với người dùng trong khi vẫn cung cấp thông tin sai lệch. Đồng sáng lập Apple Steve Wozniak đã cảnh báo mọi người rằng các chatbot như ChatGPT có thể đưa ra câu trả lời có lẽ dường như thật nhưng nó lại không thực tế.

Ấn tượng đầu tiên xấu

Mặc dù chúng ta chỉ vừa bước chân vào thế giới tích hợp AI ở quy mô thương mại lớn như vậy nhưng chúng ta đã có thể thấy hậu quả của việc đưa một mô hình ngôn ngữ lớn như vậy vào cuộc sống hàng ngày của chúng ta. 

Thay vì suy nghĩ rõ ràng về những tác động có thể xảy ra khi đưa điều này ra công chúng và đưa các chatbot AI không hoàn hảo vào cuộc sống, chúng ta sẽ tiếp tục chứng kiến ​​các hệ thống thất bại. Mới đây người dùng đã có thể “bẻ khóa” ChatGPT và khiến chatbot sử dụng ngôn ngữ thô tục và gây thù hận, điều này tạo ra vô số vấn đề tiềm ẩn chỉ sau một tuần trực tuyến. Bằng cách vội vàng loại bỏ các chatbot AI còn dang dở trước khi chúng sẵn sàng, đây là một nguy cơ rằng công chúng sẽ luôn liên kết chúng với những bước đi chập chững ban đầu này. Lần hiển thị đầu tiên được tính, đặc biệt là với công nghệ mới.

Việc trình diễn Bing AI và tất cả những gì tiếp theo chứng minh rằng công cụ tìm kiếm và chatbot còn một chặng đường rất dài phía trước và có vẻ như thay vì lập kế hoạch cho tương lai, chúng ta sẽ chuẩn bị tinh thần cho điều tồi tệ nhất. 

>>> Xem thêm: Quảng cáo mạng – Vì sao ngày càng chán?