Lensa - từ AI triệu USD đến 'kẻ quấy rối'

Lensa AI ra mắt từ năm 2018 nhưng không được chú ý. Tuy nhiên, sau khi bổ sung tính năng Magic Avatar cuối tháng 11/2022, cho phép tạo ảnh đại diện với các phong cách "ma thuật", công cụ này bất ngờ gây sốt trên mạng xã hội. Sang tháng 12/2022, ứng dụng vươn lên đứng đầu bảng xếp hạng App Store, vượt qua YouTube và Instagram. Còn theo thống kê từ SensorTower, Lensa AI có khoảng 22,2 triệu lượt tải toàn cầu, thu về gần 29 triệu USD từ người dùng.

Lensa thậm chí được đưa vào bộ lọc AI trên TikTok. Làn sóng ăn theo ứng dụng này cũng xuất hiện khi hàng loạt chương trình tương tự có mặt sau đó trên App Store và Play Store. Business Insider đánh giá ứng dụng thú vị và tạo sự phấn khích cho người dùng.

Nhưng chưa đầy hai tháng sau, mọi thứ thay đổi. Không ít người dùng cảm thấy phiền phức với AI này.

Tình dục hóa và phân biệt chủng tộc

Theo điều khoản người dùng, Lensa yêu cầu các nội dung "không khỏa thân" và "không có trẻ em, chỉ người lớn". Nhưng vài tuần qua, người dùng phản ánh app tạo ra đầy rẫy hình ảnh các cô gái có bộ ngực "khủng", hay ngầm đưa tính năng cho phép sửa ngực theo ý muốn.

Melissa Heikkilä, phóng viên của Technology Review, đã thử tạo 100 bức ảnh từ Lensa AI và nhận thấy 16 trong đó có ngực trần, 14 ảnh khác hiển thị khuôn mặt cô "trong những bộ quần áo thiếu vải và tư thế gợi dục một cách công khai".

Theo khảo sát tháng 12 của Inside Health - dịch vụ kỹ thuật số hỗ trợ sức khỏe tâm thần và rối loạn ăn uống, 80% số người được hỏi nói họ cảm thấy Lensa đã khiêu dâm hóa hình ảnh của bản thân.

Theo Heikkilä, một phần nguyên nhân là Lensa sử dụng Stable Diffusion. Công cụ AI nguồn mở này được xây dựng dựa trên dữ liệu hình ảnh lấy trên Internet - nguồn ảnh được đánh giá là "thô" và thường xuyên có vấn đề.

Theo một bài viết trên Wired, tác giả Olivia Snow thử nghiệm tải những bức ảnh của cô từ khi còn nhỏ. Kết quả là khuôn mặt cô bị biến thành "vẻ ngoài và tư thế quyến rũ" như lưng trần, tóc rối, khuôn mặt trẻ thơ nhưng ngực "khủng", còn cơ thể chỉ được che bằng một chiếc lá.

Trong khi đó, nạn phân biệt chủng tộc cũng xuất hiện trên các bức ảnh do Lensa tạo ra. Một số phàn nàn trên mạng xã hội rằng ảnh của họ như bị "tẩy trắng". Dù là người da màu, màu da do AI tạo ra sáng hơn nhiều thực tế.

Lensa AI và đơn vị đứng sau là Prisma Labs từ chối bình luận. Tuy nhiên, cuối năm ngoái, công ty thừa nhận: "Chúng tôi cố gắng kiểm duyệt các tham số của AI, nhưng bạn vẫn có thể gặp phải nội dung không phù hợp với mình".

Một số hình ảnh được tạo bởi Lensa AI

Ăn cắp tác phẩm

Khi hình ảnh do Lensa tạo ra tràn ngập trên mạng xã hội, giới nghệ sĩ đã tố AI này ăn cắp tác phẩm của họ. Karla Ortiz, nghệ sĩ thiết kế cho những phim bom tấn như Doctor Strange, thử dùng Lensa AI và phát hiện nhiều tác phẩm của mình được đưa vào kho dữ liệu mà không xin phép. Cô gọi đó là "vi phạm bản quyền" nghiêm trọng.

"Nếu bạn sử dụng Lensa để tạo avatar nghệ thuật, xin lưu ý nó đang đánh cắp các tác phẩm nghệ thuật", nghệ sĩ Megan Rae Schroeder viết trên Twitter đầu tháng 12.

Eliana Torres, luật sư chuyên về sở hữu trí tuệ của Nixon Peabody, đánh giá tính hợp pháp xung quanh Lensa không rõ ràng vì luật bản quyền Mỹ coi AI như một công cụ hoặc máy móc, không phải là tác giả hay người sáng tạo.

"Vấn đề bản quyền tác giả và quyền sở hữu tác phẩm do AI tạo ra vẫn là câu hỏi mở, là chủ đề của các cuộc tranh luận pháp lý và chính sách", Torres nói. "Cộng đồng luật sẽ hoan nghênh những hướng dẫn bổ sung từ nhà hoạch định chính sách và tòa án khi nói đến việc bảo vệ người tiêu dùng liên quan đến AI".

Dù vậy, một số họa sĩ, như Agnieszka Pilat, không lo tác động lâu dài của AI. "Việc tràn ngập hình đại diện từ Lensa càng gây cho mọi người cảm giác rẻ tiền theo thời gian", Pilat cho biết. "Chúng chỉ là trào lưu nhất thời của tuổi vị thành niên hoặc một nhóm trong xã hội và sẽ nhanh chóng lụi tàn".

Mối lo quyền riêng tư

Tương tự ứng dụng FaceApp từng làm mưa làm gió năm 2020, giới chuyên gia cảnh báo dữ liệu sinh trắc học và khuôn mặt người dùng có thể bị thu thập và sử dụng cho mục đích xấu. "Chúng ta luôn cần biết khi nào dữ liệu của mình được sử dụng và cho mục đích gì", David Leslie, Giám đốc Viện Alan Turing và giáo sư tại Đại học Queen Mary, nói với Wired. "Đây là dữ liệu nhạy cảm. Nên hết sức thận trọng với cách dữ liệu đó được sử dụng".

Trong điều khoản người dùng, Lensa hiện khẳng định không sử dụng dữ liệu cá nhân cho mục đích không minh bạch, như để đào tạo các AI riêng. "Chúng tôi luôn mặc định xóa tất cả dữ liệu có thể được liên kết với ảnh hoặc video. Chúng chỉ được lưu trữ tạm thời vào hệ thống", điều khoản có đoạn.

Dù vậy, theo CNBC, bất kỳ ứng dụng nào thu thập dữ liệu từ điện thoại đều có thể lấy dữ liệu riêng tư khác. Trong điều khoản dịch vụ, ứng dụng vẫn mập mờ về việc truy cập hình ảnh và thông tin liên quan như địa điểm, thời gian... Điều này khiến giới bảo mật lo ngại về quyền riêng tư và bản quyền dữ liệu người dùng.