LinkedIn tiết lộ nghiên cứu phát hiện hình ảnh AI trong hồ sơ giả mạo

LinkedIn công bố trình phát hiện hình ảnh AI mới có tỷ lệ thành công 99% trong việc phát hiện hồ sơ giả mạo.

LinkedIn đã phát triển một khái niệm nghiên cứu phát hiện hình ảnh AI mới có tỷ lệ thành công 99% trong việc phát hiện ảnh hồ sơ giả, với tỷ lệ dương tính giả là 1%. Theo bằng chứng giai thoại, máy dò mới của họ thực sự hoạt động.

>> Tham khảo: Cách sử dụng plugin ChatGPT cho công việc.

Theo một kỹ sư tại LinkedIn đã chia sẻ thông tin với chúng tôi, các mô hình phát hiện ảnh hiện tại của LinkedIn có tỷ lệ dương tính giả thấp hơn trong khi vẫn duy trì tỷ lệ dương tính thật cao.

1. Hồ sơ LinkedIn giả mạo

Có nhiều lý do tại sao mọi người tạo hồ sơ LinkedIn giả mạo.

Đối với một số thành viên của cộng đồng tiếp thị tìm kiếm liên kết, một lý do khiến hồ sơ giả mạo là nhận thức rằng Google sẽ tin tưởng một trang web nếu tác giả bài viết có liên kết đến hồ sơ LinkedIn trong tiểu sử tác giả của họ.

Ý tưởng này bắt nguồn từ sự khuyến khích của Google rằng nội dung nên có những thứ được gọi là E-E-A-T, Trải nghiệm, Chuyên môn, Tính có thẩm quyền và Độ tin cậy.

Đối với những người khác, động lực là tạo ra một trang web đáng tin cậy hơn cho khách truy cập vào trang web của họ.

Điều này không có nghĩa là bỏ qua những thực hành đó, tôi không khuyến khích họ.

Điều này chỉ để giải thích rằng pháp tu đang diễn ra và tại sao nó lại diễn ra.

Sự ra đời của khả năng tạo ảnh hồ sơ bằng AI đã giúp tạo hồ sơ giả dễ dàng hơn, điều này làm trầm trọng thêm một vấn đề vốn đã rất lớn theo cấp số nhân.

Các báo cáo về Hồ sơ LinkedIn giả được công bố vào năm 2022 lưu ý rằng LinkedIn đã phát hiện và xóa 21 triệu tài khoản giả trong nửa đầu năm 2022.

Bằng chứng giai thoại được chia sẻ bởi một nhà tiếp thị liên kết đã triển khai hồ sơ LinkedIn giả mạo xác nhận rằng trình phát hiện hình ảnh AI của LinkedIn đã cải thiện đáng kể khả năng phát hiện tài khoản giả mạo của họ.

Theo LinkedIn:

“Chúng tôi không ngừng làm việc để cải thiện và nâng cao hiệu quả của các biện pháp phòng vệ chống lạm dụng nhằm bảo vệ trải nghiệm của các thành viên và khách hàng của chúng tôi. Và như một phần trong công việc đang diễn ra của chúng tôi, chúng tôi đã hợp tác với giới học thuật để đi trước một bước trong các loại lạm dụng mới gắn liền với các tài khoản giả mạo đang tận dụng các công nghệ phát triển nhanh chóng như trí tuệ nhân tạo AI.”

>> Tham khảo: Cách tối ưu hóa nội dung cho Google Perspectives.

2. Tài khoản giả khó phát hiện

LinkedIn liên tục cập nhật hệ thống của họ để phát hiện nhiều loại hoạt động không mong muốn như hồ sơ giả mạo, chiếm đoạt tài khoản và vi phạm chính sách nội dung.

Việc giới thiệu hình ảnh do AI tạo ra đã khiến việc phát hiện hình ảnh giả gần như không thể nếu bạn không biết phải tìm gì.

LinkedIn xác định “đồ tạo tác” là đặc điểm nổi bật của hình ảnh hồ sÆ¡ AI giả mạo.

Hầu hết mọi người không biết cách phát hiện hình ảnh AI nên mọi người dễ nhầm tài khoản giả với tài khoản thật.

LinkedIn đã chia sẻ:

“Với sự gia tăng của phương tiện tổng hợp do AI tạo ra và phương tiện được tạo từ văn bản thành hình ảnh, các hồ sơ giả ngày càng trở nên tinh vi hơn.

Và chúng tôi nhận thấy rằng hầu hết các thành viên thường không thể phân biệt bằng mắt thường khuôn mặt thật với khuôn mặt nhân tạo…”

>> Tham khảo: Các thương hiệu và người có ảnh hưởng trên TikTok Shop.

3. Cách LinkedIn nắm bắt nội dung do AI tạo

Một đặc điểm của các hình ảnh được tạo ra một cách giả tạo là tất cả chúng đều có chung các mẫu giống nhau, cái mà LinkedIn gọi là sự khác biệt về cấu trúc.

Hình ảnh thực không chia sẻ các thành phần cấu trúc.

LinkedIn đã chia sẻ một ví dụ về tổng hợp 400 hình ảnh nhân tạo và 400 hình ảnh thực.

Tổng hợp các hình ảnh giả cho thấy các khu vực xung quanh mắt và mũi có xu hướng rất giống nhau.

Tổng hợp của các hình ảnh thực không có điểm chung nào với bất kỳ hình ảnh nào khác nên tổng hợp bị mờ.

Kết quả nghiên cứu của họ thật ấn tượng.

LinkedIn chia sẻ:
“Tỷ lệ tích cực thực sự (TPR) là tỷ lệ phần trăm ảnh tổng hợp được phân loại chính xác là ảnh tổng hợp.

Tỷ lệ dương tính giả (FPR) là tỷ lệ phần trăm ảnh thật được phân loại không chính xác là ảnh tổng hợp.

Phương pháp tiếp cận của chúng tôi có thể phát hiện 99,6% (TPR) khuôn mặt StyleGAN, StyleGAN2 và StyleGAN3 tổng hợp, trong khi chỉ phân loại sai 1% (FPR) ảnh hồ sơ LinkedIn thực là khuôn mặt tổng hợp.

Đối với kết quả điểm chuẩn trong tài liệu nghiên cứu của mình, chúng tôi đã chọn mục tiêu 1% FPR, bởi vì–đối với các ứng dụng trong thế giới thực trên mạng chuyên nghiệp lớn–điều quan trọng đối với các mô hình phát hiện hình ảnh do AI tạo ra là nắm bắt hầu hết các hình ảnh tổng hợp, trong khi chỉ hiếm khi phân loại một hình ảnh thực là tổng hợp.”

>> Tham khảo: Giới hạn tìm kiếm của Google được khuếch đại bởi Reddit Blackouts.

4. Trình phát hiện AI của LinkedIn hiệu quả như thế nào trong thế giới thực?

Nhà tiếp thị liên kết có hồ sơ LinkedIn giả mạo đã chia sẻ rằng LinkedIn có thể bắt được 100% hồ sơ LinkedIn giả mạo của họ.

Họ đã chia sẻ kinh nghiệm của họ với tôi:

“Là một nhà tiếp thị liên kết, việc có hồ sơ LinkedIn cho nhân vật giả mạo của tôi là một cách tuyệt vời để tạo uy tín cho các tác giả của tôi.

Nó đặc biệt hữu ích cho việc xây dựng liên kết HARO, vì các phóng viên có xu hướng liên kết thường xuyên hơn với các trang web của những người có hồ sơ LinkedIn.

Trong vài tháng qua, 90% hồ sơ của tôi đã bị LinkedIn đình chỉ.

Thật không may, bây giờ tôi phải tìm một phương pháp khác để tăng độ tin cậy cho các tác giả của mình và làm cho họ có vẻ hợp pháp.”

LinkedIn tiếp tục cải thiện khả năng phát hiện các hồ sơ giả mạo của họ. Khả năng tạo một hồ sơ giả thậm chí còn khó hơn.