33 C
Thanh pho Ho Chi Minh
Thứ Năm, Tháng Mười Một 15, 2018

Thuật toán tuyển dụng giới tính của Amazon vẫn có thể tốt hơn một con người

- Quảng Cáo -

Amazon đã quyết định ngừng công cụ tuyển dụng trí tuệ nhân tạo (AI) thử nghiệm của họ sau khi phát hiện ra nó phân biệt đối xử với phụ nữ.

Công ty đã tạo ra công cụ để lướt web và phát hiện các ứng viên tiềm năng, đánh giá chúng từ một đến năm sao. Nhưng thuật toán đã học cách hạ cấp hệ thống CV của phụ nữ một cách có hệ thống cho các công việc kỹ thuật như nhà phát triển phần mềm.

Mặc dù Amazon đang đi đầu trong công nghệ AI, công ty không thể tìm ra cách để làm cho thuật toán trung lập về giới tính. Nhưng thất bại của công ty nhắc nhở chúng ta rằng AI phát triển thiên vị từ nhiều nguồn khác nhau.

Mặc dù có một niềm tin phổ biến cho rằng các thuật toán được cho là được xây dựng mà không có bất kỳ sự thiên vị hoặc thành kiến ​​nào bị ảnh hưởng của con người, sự thật là rằng một thuật toán có thể vô tình tìm hiểu thiên vị từ nhiều nguồn khác nhau.

Mọi thứ từ dữ liệu được sử dụng để đào tạo nó, cho đến những người đang sử dụng nó, và thậm chí các yếu tố dường như không liên quan, tất cả đều có thể đóng góp vào AI thiên vị.

Các thuật toán AI được đào tạo để quan sát các mẫu trong các tập dữ liệu lớn để giúp dự đoán kết quả. Trong trường hợp của Amazon, thuật toán của nó sử dụng tất cả các CV được gửi cho công ty trong khoảng thời gian mười năm để tìm hiểu cách phát hiện các ứng cử viên tốt nhất.

Với tỷ lệ phụ nữ làm việc thấp trong công ty, như trong hầu hết các công ty công nghệ, thuật toán nhanh chóng phát hiện sự thống trị của nam giới và nghĩ rằng đó là một yếu tố thành công.

Bởi vì thuật toán sử dụng các kết quả của các dự đoán riêng của mình để cải thiện độ chính xác của nó, nó đã bị mắc kẹt trong một khuôn mẫu của chủ nghĩa giới tính chống lại các ứng cử viên nữ.

Và vì dữ liệu được sử dụng để đào tạo nó là ở một thời điểm nào đó được tạo ra bởi con người, điều đó có nghĩa là thuật toán cũng thừa kế các đặc điểm không mong muốn của con người, như thiên vị và phân biệt đối xử, cũng là vấn đề trong tuyển dụng trong nhiều năm.

Một số thuật toán cũng được thiết kế để dự đoán và phân phối những gì người dùng muốn xem. Điều này thường thấy trên phương tiện truyền thông xã hội hoặc trong quảng cáo trực tuyến, nơi người dùng được hiển thị nội dung hoặc quảng cáo mà thuật toán tin rằng họ sẽ tương tác với. Các mô hình tương tự cũng đã được báo cáo trong ngành tuyển dụng.

Một nhà tuyển dụng đã báo cáo trong khi sử dụng mạng xã hội chuyên nghiệp để tìm kiếm ứng cử viên, AI đã học cách cho anh ta kết quả tương tự nhất với hồ sơ anh ấy tham gia ban đầu.

Kết quả là, toàn bộ các nhóm ứng cử viên tiềm năng đã bị xóa hoàn toàn khỏi quá trình tuyển dụng một cách hệ thống.

Tuy nhiên, thiên vị cũng xuất hiện vì những lý do không liên quan khác. A nghiên cứu gần đây vào cách một thuật toán phân phối quảng cáo quảng bá công việc STEM cho thấy rằng nam giới có nhiều khả năng được hiển thị quảng cáo hơn, không phải vì nam giới có nhiều khả năng nhấp vào quảng cáo hơn, nhưng vì phụ nữ đắt hơn để quảng cáo.

Vì các công ty định giá quảng cáo nhắm mục tiêu phụ nữ ở mức cao hơn (phụ nữ lái xe 70% đến 80% của tất cả các giao dịch mua của người tiêu dùng), thuật toán đã chọn phân phối quảng cáo nhiều hơn cho nam giới hơn nữ giới vì nó được thiết kế để tối ưu hóa phân phối quảng cáo trong khi vẫn giữ chi phí thấp.

Nhưng nếu một thuật toán chỉ phản ánh các mẫu trong dữ liệu chúng tôi cung cấp, những gì người dùng thích và các hành vi kinh tế xảy ra trên thị trường của mình thì không công bằng khi đổ lỗi cho việc duy trì các thuộc tính tồi tệ nhất của chúng tôi?

Chúng tôi tự động mong đợi một thuật toán đưa ra quyết định mà không phân biệt đối xử khi điều này hiếm khi xảy ra với con người. Ngay cả khi một thuật toán được thiên vị, nó có thể là một sự cải tiến so với hiện trạng.

Để được hưởng lợi đầy đủ từ việc sử dụng AI, điều quan trọng là phải điều tra điều gì sẽ xảy ra nếu chúng tôi cho phép AI đưa ra quyết định mà không cần sự can thiệp của con người.

Một nghiên cứu 2018 đã khám phá kịch bản này với các quyết định bảo lãnh bằng cách sử dụng một thuật toán được đào tạo về dữ liệu tội phạm lịch sử để dự đoán khả năng phạm tội tái phạm. Trong một lần chiếu, các tác giả đã có thể giảm tỷ lệ tội phạm xuống 25% trong khi giảm các trường hợp phân biệt đối xử trong tù nhân tù.

Tuy nhiên, lợi ích được nêu bật trong nghiên cứu này sẽ chỉ xảy ra nếu thuật toán thực sự đưa ra mọi quyết định. Điều này sẽ không có khả năng xảy ra trong thế giới thực vì các thẩm phán có lẽ muốn chọn có hay không tuân theo các khuyến nghị của thuật toán. Ngay cả khi một thuật toán được thiết kế tốt, nó trở nên thừa nếu mọi người chọn không dựa vào nó.

Nhiều người trong chúng ta đã dựa vào các thuật toán cho nhiều quyết định hàng ngày của chúng tôi, từ những gì để xem trên Netflix hoặc mua từ Amazon. Nhưng chương trình nghiên cứu rằng mọi người mất niềm tin vào thuật toán nhanh hơn con người khi họ thấy họ mắc lỗi, ngay cả khi thuật toán thực hiện tốt hơn tổng thể.

Ví dụ: nếu GPS của bạn đề xuất bạn sử dụng một tuyến đường thay thế để tránh lưu lượng truy cập kết thúc mất nhiều thời gian hơn dự đoán, bạn có thể ngừng dựa vào GPS của mình trong tương lai.

Nhưng nếu tham gia tuyến đường thay thế là quyết định của bạn, có khả năng bạn sẽ không tin tưởng bản án của riêng bạn. A theo dõi nghiên cứu về sự đảo ngược thuật toán khắc phục thậm chí cho thấy mọi người có nhiều khả năng sử dụng thuật toán và chấp nhận các lỗi của nó nếu có cơ hội tự sửa đổi thuật toán, ngay cả khi nó có nghĩa là làm cho nó hoạt động không hoàn hảo.

Trong khi con người có thể nhanh chóng mất niềm tin vào các thuật toán thiếu sót, nhiều người trong chúng ta có xu hướng tin tưởng máy móc nhiều hơn nếu họ có các tính năng của con người. Theo nghiên cứu trên xe tự lái, con người có nhiều khả năng tin tưởng chiếc xe và tin rằng nó sẽ hoạt động tốt hơn nếu hệ thống tăng cường của xe có tên, giới tính cụ thể và giọng nói của con người.

Tuy nhiên, nếu máy móc trở nên rất giống con người, nhưng không hoàn toàn, mọi người thường thấy chúng đáng sợ và có thể ảnh hưởng đến tin tưởng vào chúng.

Mặc dù chúng ta không nhất thiết phải đánh giá cao hình ảnh mà các thuật toán có thể phản ánh về xã hội của chúng ta, có vẻ như chúng ta vẫn muốn sống với chúng và khiến chúng nhìn và hành động như chúng ta. Và nếu đúng như vậy, chắc chắn các thuật toán cũng có thể phạm sai lầm?

- Đọc Thêm -

Nên Đọc

Apple sẽ tìm hiểu vụ tai nghe Airpods phát nổ ở Florida

Jason Colon cư trú tại Florida đã nghe AirPod của anh ta khi đang ở phòng tập thể dục trong tuần này và nó...

Energous được FCC chấp thuận cho hệ thống sạc pin tầm xa đầu tiên trước CES

Trong khi sạc không dây có thể tiện dụng, cho phép tất cả các sản phẩm được tự động sạc bất cứ nơi nào...

Cập nhật OTA MIUI 9.2 cho Xiaomi Redmi 5A và Mi 5S Plus

Xiaomi đã xác nhận rằng MIUI10 đã được phát triển và sẽ được đẩy tới người dùng cuối trong những tháng tới. Tại thời...

Ứng dụng có giúp người mù giao tiếp, đọc, ghi tài liệu, điều hướng, … dễ dàng hơn

Người dùng iPhone, đặc biệt là những người không may mắn bị mù lòa nay đã có thêm một công cụ trợ giúp hiệu...

Asus bắt đầu cập nhật Android 8.0 Oreo cho ZenFone 4

Asus vừa thông báo đã bắt đầu triển khai bản cập nhật Oreo Android 8.0 cho phiên bản mới nhất, ZenFone 4. Bản cập...

Mới Nhất

Sharp giới thiệu Aquos R2 Compact với Dual Notch

Thật an toàn khi gọi năm 2018 là năm điện thoại notch. Điện thoại Essential là chiếc điện thoại Android đầu tiên có màn...

LG đã đăng ký tất cả nhãn hiệu lên đến LG V90

Dòng sản phẩm LG V có những chiếc điện thoại hàng đầu với các thiết kế hiện đại và sang trọng cùng các thông...

Mark Zuckerberg yêu cầu các nhân viên cấp cao của Facebook sử dụng Android sau những lời chỉ trích của Tim Cook

Đầu mùa xuân này, CEO của Apple Tim Cook đã chỉ trích Facebook và Giám đốc điều hành Mark Zuckerberg một cách rất công...

Ứng dụng Cortana của Microsoft trên iOS được cập nhật lên phiên bản 3.0

Bản cập nhật này cũng cung cấp cho Cortana khả năng chơi các podcast và nghe nhạc, chỉ trong thời gian cho việc phát...

Microsoft phát hành bản xem trước Windows 10 mới với chủ đề ánh sáng, cải tiến để chụp và in

Microsoft hôm nay phát hành bản xem trước Windows 10 mới với chủ đề sáng và cải tiến để chụp, in, cập...