Để quy chuẩn hóa dịch vụ và ứng dụng AI, thúc đẩy phát triển ngành nghề một cách lành mạnh và có trật tự, bảo vệ quyền lợi hợp pháp của công dân, gần đây, Cục Quản lý Không gian Mạng Trung ương đã phát hành thông báo triển khai một hoạt động đặc biệt có thời gian 3 tháng mang tên “Sáng sủa·Quản lý lạm dụng công nghệ AI” trên toàn quốc.
Người đại diện của Cục Quản lý Không gian Mạng Trung ương cho biết, hoạt động đặc biệt này chia thành hai giai đoạn. Giai đoạn đầu tiên tập trung vào quản lý nguồn gốc công nghệ AI, dọn dẹp và xử lý các ứng dụng AI vi phạm, tăng cường quản lý công nghệ tổng hợp nội dung AI và nhãn hiệu nội dung, thúc đẩy các nền tảng web nâng cao khả năng phát hiện và nhận dạng giả mạo. Giai đoạn thứ hai tập trung vào việc sử dụng công nghệ AI để sản xuất và phát hành tin đồn, thông tin không chính xác, nội dung khiêu dâm tục tĩu, giả mạo người khác, tham gia vào các hoạt động quân đội mạng nổi bật, và tập trung dọn dẹp thông tin vi phạm pháp luật liên quan, xử lý và xử phạt các tài khoản vi phạm, tổ chức MCN và nền tảng web.
Giai đoạn đầu tiên chú trọng vào xử lý 6 vấn đề nổi bật:
Thứ nhất là sản phẩm AI vi phạm. Sử dụng công nghệ AI tạo ra nội dung để cung cấp dịch vụ cho công chúng mà không thực hiện quy trình đăng ký hoặc ghi danh của mô hình lớn. Cung cấp các chức năng trái pháp luật và đạo đức như “nhấn một nút để cởi bỏ quần áo”. Trong việc không có sự đồng ý của chủ sở hữu, sao chép hoặc chỉnh sửa giọng nói, khuôn mặt và các thông tin đặc trưng sinh học khác của người khác, xâm phạm quyền riêng tư của người khác.
Thứ hai là truyền授 và bán các hướng dẫn và sản phẩm AI vi phạm. Chỉ dẫn sử dụng sản phẩm AI vi phạm để giả mạo video mặt, âm thanh và các thông tin khác. Bán các sản phẩm như “máy tổng hợp giọng nói”, “công cụ thay đổi mặt” vi phạm. Tiếp thị, thao túng và quảng bá các thông tin về sản phẩm AI vi phạm.
Thứ ba là quản lý tài liệu đào tạo không chặt chẽ. Sử dụng thông tin xâm phạm quyền sở hữu trí tuệ, quyền riêng tư của người khác. Sử dụng nội dung giả, không có giá trị và không chính xác được thu thập từ mạng. Sử dụng dữ liệu nguồn gốc bất hợp pháp. Chưa thiết lập cơ chế quản lý tài liệu đào tạo, chưa thường xuyên kiểm tra và dọn dẹp tài liệu vi phạm.
Thứ tư là các biện pháp quản lý an toàn yếu kém. Chưa thiết lập các biện pháp kiểm duyệt nội dung, nhận diện ý định chặt chẽ tương xứng với quy mô kinh doanh. Chưa thiết lập cơ chế quản lý tài khoản vi phạm hiệu quả. Chưa thường xuyên tiến hành tự đánh giá an toàn. Các nền tảng mạng xã hội chưa rõ ràng về các dịch vụ trả lời tự động AI qua giao diện API, kiểm soát không chặt chẽ.
Thứ năm là chưa thực hiện yêu cầu đánh dấu nội dung. Nhà cung cấp dịch vụ chưa thêm nhãn nội dung ẩn và rõ ràng cho nội dung tổng hợp sâu. Chưa cung cấp hoặc nhắc nhở người sử dụng về chức năng nhãn nội dung rõ ràng. Các nền tảng truyền thông chưa tiến hành giám sát và phân loại nội dung tổng hợp, dẫn đến thông tin giả gây hiểu lầm cho công chúng.
Thứ sáu là rủi ro an toàn trong các lĩnh vực trọng điểm. Các sản phẩm AI đã được ghi danh cung cấp dịch vụ hỏi đáp trong các lĩnh vực trọng điểm như y tế, tài chính, vị thành niên mà chưa thiết lập các biện pháp kiểm duyệt an toàn và kiểm soát phù hợp với ngành nghề, xảy ra các vấn đề như “AI kê đơn”, “khuyến khích đầu tư”, “ảo giác AI”, gây hiểu lầm cho sinh viên, bệnh nhân, làm rối loạn trật tự thị trường tài chính.
Giai đoạn thứ hai chú trọng vào xử lý 7 vấn đề nổi bật:
Thứ nhất là sử dụng AI để sản xuất và phát hành tin đồn. Tạo ra và bịa đặt thông tin tin đồn liên quan đến chính trị thời sự, chính sách công, đời sống xã hội, quan hệ quốc tế, sự kiện khẩn cấp và các loại tin đồn khác, hoặc tự ý phỏng đoán, giải thích sai trái các chính sách quan trọng. Lợi dụng các sự kiện khẩn cấp, thiên tai, tạo ra các nguyên nhân, tiến độ và chi tiết giả mạo. Giả mạo thông cáo báo chí hoặc báo cáo truyền thông chính thức để phát hành thông tin tin đồn. Sử dụng nội dung do nhận thức thiên lệch của AI tạo ra để dẫn dắt ác ý.
Thứ hai là sử dụng AI để sản xuất và phát hành thông tin không chính xác. Ghép nối và chỉnh sửa các hình ảnh và video không liên quan, tạo ra thông tin hỗn hợp, nửa thật nửa giả. Làm mờ thời gian, địa điểm và các yếu tố liên quan đến sự kiện, quay lại sự kiện cũ. Tạo ra và phát hành nội dung không chính xác trong các lĩnh vực chuyên môn như tài chính, giáo dục, tư pháp, y tế với các thông tin phex khoa học hoặc thổi phồng. Lợi dụng AI để đoán vận mệnh, bói toán sai lệch, phát tán tư tưởng mê tín dị đoan.
Thứ ba là sử dụng AI để sản xuất và phát hành nội dung khiêu dâm tục tĩu. Sử dụng AI để tạo ra nội dung khiêu dâm hoặc hình ảnh, video không đứng đắn của người khác, các hình ảnh phản cảm với trang phục hở hang hoặc tạo dáng khiêu gợi, hoặc sản phẩm có nội dung không lành mạnh. Tạo ra và phát hành cảnh bạo lực máu me, hình ảnh cơ thể bị biến hình, quái vật siêu thực và các hình ảnh kinh dị khác. Tạo ra và phát hành các tác phẩm, bài viết, nhật ký có ý nghĩa ám chỉ tình dục rõ ràng như “tiểu thuyết khiêu dâm”, “câu chuyện hài hước” v.v.
Thứ tư là giả mạo người khác qua AI để thực hiện hành vi vi phạm luật pháp. Qua công nghệ giả mạo sâu như đổi mặt và sao chép giọng nói, giả mạo các nhân vật công chúng như chuyên gia, doanh nhân, ngôi sao, lừa đảo người dùng mạng, thậm chí thu lợi. Sử dụng AI để chế nhạo, bôi nhọ, bóp méo hoặc biến thái các nhân vật công chúng hoặc nhân vật lịch sử. Sử dụng AI để giả mạo bạn bè, tham gia các hành vi lừa đảo trực tuyến trái phép. Sử dụng không đúng cách AI để “hồi sinh người đã chết”, lạm dụng thông tin của người đã khuất.
Thứ năm là tham gia vào các hoạt động quân đội mạng sử dụng AI. Lợi dụng công nghệ AI để “nuôi tài khoản”, mô phỏng người thật, đăng ký và vận hành hàng loạt tài khoản mạng xã hội. Sử dụng nông trại nội dung AI hoặc thu hoạch nội dung AI, tạo ra và phát hành hàng loạt nội dung cùng loại với chất lượng thấp để thu hút lưu lượng truy cập. Sử dụng phần mềm điều khiển nhóm AI, robot mạng xã hội để tăng hàng loạt lượt thích và bình luận, tạo ra các chủ đề nóng.
Thứ sáu là sản phẩm dịch vụ và ứng dụng AI vi phạm. Tạo ra và phổ biến các trang web và ứng dụng AI giả mạo, đóng gói trái phép. Các ứng dụng AI cung cấp các dịch vụ vi phạm, chẳng hạn như các công cụ sáng tạo cung cấp các chức năng như “mở rộng danh sách tìm kiếm nóng”, các phần mềm xã hội AI và hội thoại giúp tạo ra những đối thoại khiêu dâm không đứng đắn. Cung cấp các ứng dụng AI vi phạm, dịch vụ tạo ra và tổng hợp hoặc các khóa học bán promotion và dẫn dắt lưu lượng truy cập.
Thứ bảy là xâm phạm quyền lợi của trẻ vị thành niên. Các ứng dụng AI khuyến khích trẻ vị thành niên nghiện ngập, có nội dung ảnh hưởng đến sức khỏe tâm lý và thể chất của trẻ em dưới chế độ dành cho trẻ vị thành niên.
Người đại diện của Cục Quản lý Không gian Mạng Trung ương nhấn mạnh, các cơ quan chức năng trong từng địa phương cần nhận thức rõ về tầm quan trọng của hoạt động đặc biệt này trong việc phòng ngừa rủi ro lạm dụng công nghệ AI, bảo vệ quyền lợi hợp pháp của người sử dụng mạng. Thực hiện nghiêm túc trách nhiệm quản lý địa phương, giám sát các nền tảng website tuân thủ các yêu cầu liên quan đến hoạt động đặc biệt, cải thiện cơ chế kiểm duyệt nội dung tạo ra và tổng hợp của AI, nâng cao khả năng phát hiện công nghệ và thực hiện việc chỉnh sửa. Tăng cường tuyên truyền và phát triển các chính sách liên quan đến trí tuệ nhân tạo, giáo dục nâng cao nhận thức về trí tuệ nhân tạo, hướng dẫn các bên hiểu đúng và áp dụng công nghệ trí tuệ nhân tạo, không ngừng tạo sự đồng thuận trong việc quản lý.
Bài viết được trích dẫn từ WeChat “Mạng lưới Trung Quốc”, biên tập bởi Liu Jiayin.