PNO - Làm một nghiên cứu nhỏ, chuyên gia công nghệ thông tin nhận thấy công cụ tìm kiếm của OpenAI có thể trả về kết quả sai hoặc độc hại.
 |
| ChatGPT đang được OpenAI quảng bá và khuyến khích khách hàng sử dụng như một công cụ tìm kiếm mặc định - Ảnh: Shutterstock |
Tiến sĩ Karsten Nohl - trưởng nhóm chuyên gia tại Công ty an ninh mạng SR Labs ở Berlin, Đức - và Jacob Larsen - nhà nghiên cứu an ninh dữ liệu của Công ty bảo mật máy tính CyberCX ở Adelaide, Úc - đã cùng làm nghiên cứu nhỏ về ChatGPT. Họ phát hiện ra, công cụ trí tuệ nhân tạo của OpenAI có thể bị thao túng bằng thủ thuật để quảng cáo nội dung độc hại, theo báo The Guardian đưa tin ngày 25/12.
Tiến sĩ Nohl cho biết, ông đã kiểm tra cách ChatGPT phản hồi, khi công cụ này được yêu cầu tóm tắt các trang web có chứa nội dung ẩn. Vị chuyên gia sử dụng “nội dung ẩn” chứa hướng dẫn từ bên thứ 3, còn được gọi là thủ thuật “prompt injection”, chứa nội dung được thiết kế để tác động đến phản hồi của ChatGPT.
Ông chia sẻ, kỹ thuật nói trên có thể được sử dụng một cách độc hại, khiến ChatGPT trả về đánh giá tích cực cho một sản phẩm, bất chấp sản phẩm đó nhận được nhiều đánh giá tiêu cực.
Ông Nohl cho biết, trong thử nghiệm nhỏ, ChatGPT được cung cấp đường dẫn URL đến một trang web giả, được xây dựng trông giống như cửa hàng bán máy ảnh. Sau đó, công cụ AI được hỏi liệu máy ảnh có đáng mua không. Đến đây, công cụ vẫn đưa ra phản hồi cân bằng, về khuyết điểm của các sản phẩm máy ảnh mà mọi người có thể không thích.
Vị chuyên gia lưu ý, đến khi ông sử dụng thủ thuật văn bản ẩn, có chứa “hướng dẫn” để ChatGPT trả về đánh giá tích cực, thì công cụ phản hồi luôn hoàn toàn tích cực. Điều này vẫn đúng ngay cả khi trang web giả nhận về đánh giá tiêu cực từ người dùng khác, nghĩa là “văn bản ẩn” có thể được sử dụng để ghi đè luôn cả điểm đánh giá thực tế.
Ông Larsen nhận định, nếu ChatGPT hiện tại không được thay đổi, nhiều người có thể tạo ra các trang web bán hàng giả nhằm mục đích lừa đảo người dùng, tuy nhiên ông tin là OpenAI sẽ có biện pháp ứng phó. “Họ có một nhóm bảo mật AI rất mạnh ở đó và khi thông tin này được công khai, họ sẽ kiểm tra nghiêm ngặt những trường hợp như thế này” - vị chuyên gia nhận định.
Trường An (theo The Guardian)
| Chia sẻ bài viết: |
Theo phương tiện truyền thông địa phương, một máy bay chở khách đã bị rơi gần thành phố Aktau, Kazakhstan, trên bờ biển Caspi.
Đã có 11 trường hợp mắc vi rút chủng H5N1 và 1 trường hợp chủng H5N5 được phát hiện trên gia cầm ở Anh trong đợt bùng phát mới đây.
5 ông bố ở Trung Quốc đã cạo đầu và mặc váy để biểu diễn các điệu múa hài hước nhằm gây quỹ cho những đứa con bị ung thư hiếm gặp.
Tổng thống Hàn Quốc bị đình chỉ Yoon Suk Yeol đã từ chối lệnh triệu tập để thẩm vấn vào Ngày Giáng sinh.
Ngày 24/12, Donald Trump cho biết ông sẽ chỉ đạo Bộ Tư pháp theo đuổi án tử hình để bảo vệ người dân Mỹ khỏi "những kẻ hiếp dâm, giết người...".
Mới đây, Tổ chức Y tế thế giới (WHO) đã cảnh báo về sự gia tăng đáng báo động các trường hợp mắc bệnh sốt rét ở Ethiopia.
Ngày 24/12, người phát ngôn của cựu Tổng thống Mỹ Bill Clinton - Angel Urena - cho biết sức khỏe của cựu Tổng thống đã ổn định.
Năm 2023, đóng góp của du lịch chiếm 3% GDP toàn cầu, vượt hơn 3,2 tỉ USD.
Nhiều người ở các nền kinh tế lớn nhất châu Âu có kế hoạch mua sắm các mặt hàng đã qua sử dụng để làm quà tặng trong mùa lễ Giáng sinh.
Ngọn lửa bùng lên tại một trong những trục thang máy chính của Tháp Eiffel, Paris. Hơn 1.000 du khách phải sơ tán, trước khi đám cháy được dập tắt.
Ngày 24/12, Bộ Nội vụ Hàn Quốc cho biết quốc gia này đã trở thành xã hội "siêu già" khi tỉ lệ dân số từ 65 tuổi trở lên vượt quá 20%.
Cơ quan y tế Canada cho biết, từ tháng 1/2016 - 6/2024 có gần 50.000 người đã tử vong vì dùng thuốc opioid quá liều.
Ngày 23/12 (giờ địa phương), người phát ngôn của cựu Tổng thống Bill Clinton cho biết, ông đã được đưa vào bệnh viện ở Washington, DC vào chiều cùng ngày.
Đối với nhiều người, mùa lễ hội cuối năm với những buổi tiệc và vui chơi là thời gian đáng sợ.
Người phụ nữ ở Bắc London bị đột quỵ và không thể nói trong nhiều tháng. Trong quá trình phục hồi, bà giao tiếp bằng ngôn ngữ mà bà chưa từng học.
Ngày 23/12, Tổ chức Y tế thế giới (WHO) cảnh báo Yemen đang phải chịu gánh nặng dịch tả lớn nhất trên toàn cầu.
Một chiếc xe lao vào khu chợ Giáng sinh đông đúc ở Magdeburg, Đức trong ngày 20/12 đã khơi lại những lo ngại về sự an toàn trong mùa Giáng sinh.
Không khí Giáng sinh 2024 đã tràn ngập tại nhiều quốc gia từ châu Âu đến châu Á. Đường phố khắp nơi được trang hoàng lộng lẫy.
