Amazon đã vô tình tạo ra một công cụ chẩn đoán. Phần lớn kỹ sư được Amazon tuyển dụng trong hơn 10 năm qua đều là nam giới， vì vậy các mô hình do họ tạo ra， được huấn luyện dựa trên hồ sơ xin việc thành công của nam giới， đã học cách đề xuất nam giới vào các vị trí tuyển dụng trong tương lai. Các thói quen tuyển dụng trong quá khứ và hiện tại đang định hình các công cụ tuyển dụng cho tương lai.
Hệ thống của Amazon bất ngờ tiết lộ những cách thức mà sự thiên vị đã tồn tại， thông qua việc tính nam được mã hóa trong ngôn ngữ， trong hồ sơ xin việc và trong chính văn hóa công ty.
Ảnh minh hoạ. Nguồn: BBC.
Công cụ này như một lăng kính phóng đại các động lực hiện có của Amazon và nhấn mạnh đến sự thiếu đa dạng trong toàn bộ ngành AI trước đây và hiện tại. Cuối cùng， Amazon đã ngừng thí nghiệm tuyển dụng của mình. Nhưng quy mô của vấn đề thiên vị còn ăn sâu hơn nhiều so với một hệ thống riêng lẻ hoặc một phương pháp thất bại.
Ngành công nghiệp AI theo truyền thống hiểu vấn đề thiên vị như một lỗi cần khắc phục hơn là một đặc tính nội tại của chính quá trình phân loại. Kết quả là họ chỉ tập trung vào việc điều chỉnh các hệ thống kỹ thuật để tạo ra sự cân bằng số lượng giữa các nhóm khác biệt， và điều này， như chúng ta sẽ thấy， sẽ gây ra những vấn đề riêng của nó.
Để hiểu mối quan hệ giữa thiên kiến và phân loại， cần phải vượt ra ngoài việc phân tích quá trình sản xuất tri thức - như xác định liệu một bộ dữ liệu có thiên kiến hay không - và thay vào đó phải nhìn vào cơ chế xây dựng tri thức， thứ mà nhà xã hội học Karin Knorr Cetina gọi là “cỗ máy nhận thức”.
Để thấy được điều đó， cần quan sát cách các mẫu hình bất bình đẳng trong lịch sử định hình khả năng tiếp cận tài nguyên và cơ hội， từ đó định hình dữ liệu. Dữ liệu này sau đó được khai thác để sử dụng trong các hệ thống kỹ thuật để phân loại và nhận dạng mẫu， tạo ra những kết quả được cho là khách quan như thế nào. Hệ quả là một vòng lặp tiêu cực: một cỗ máy phân biệt đối xử tự củng cố và khuếch đại bất bình đẳng xã hội dưới vỏ bọc của tính trung lập kỹ thuật.
Bình luận
Amazon
Amazon.com là một công ty thương mại điện tử và điện toán đám mây của Mỹ được thành lập bởi Jeff Bezos. Công ty là nhà bán lẻ online lớn nhất trên thế giới theo doanh thu và vốn hóa thị trường， đứng thứ hai sau Alibaba Group về tổng doanh thu. Trang web amazon.com bắt đầu như là một hiệu sách trực tuyến， sau đó đa dạng hóa để bán đĩa， tải video， nhạc， may mặc， đồ gỗ， thực phẩm， đồ chơi， đồ trang sức và rất nhiều sản phẩm khác. Amazon ngày nay còn sản xuất thiết bị điện tử tiêu dùng (máy đọc sách Kindle， Fire TV，...) và là nhà cung cấp dịch vụ cơ sở hạ tầng điện toán đám mây lớn nhất thế giới.
Bạn có biết: Amazon ban đầu được đặt tên là Cadabra nhưng tên này đã được thay đổi khi người ta phát hiện ra tên này dễ nhầm lẫn với "Cadaver" (tử thi)
Thành lập: 05/07/1994Người sáng lập: Jeff BezosTrụ sở chính: Seattle， Washington， MỹMã niêm yết: AMZN Đọc tiếp
Nghiên cứu hộp sọ cảnh báo điều gì khi phát triển AI?
0
Khi các hệ thống AI được chứng minh là tạo ra những kết quả phân biệt đối xử， D oán X S Phú Yên ngày 27 các công ty phải đối mặt với áp lực cải thiện công cụ hoặc đa dạng hóa dữ liệu của họ.
Cách Chi Lottery 92_ Chi Tiết và Bí Quyết Giải Mã Kết QuảR0lGODlhAQABAAAAACH5BAEKAAEALAAAAAABAAEAAAICTAEAOw==" data-src="https://photo.znews.vn/Uploaded/ozlyestesfj/2024_12_17/Thumbnail_2.jpg" alt="'Dung co da nhiem，
Gcha Club - Cộng Đồng Học Tập và Giải Trí Độc Đáo chi em a!' hinh anh" />
'Đừng cố đa nhiệm， chị em ạ!'
0
Chúng ta bị mắc kẹt trong một hệ thống luôn đòi hỏi cải tiến về hiệu suất. Hệ thống đó khắc nghiệt với phụ nữ hơn đàn ông. Cả đàn ông và phụ nữ đều cần thoát khỏi vòng quay đang chẳng đưa ta đến đâu này， nhưng với phụ nữ， điều đó cấp thiết hơn. Đừng cố dấn thân， chị em ạ! - Tải ngay ứng dụng Voiz FM tại: voiz.vn/download để nghe trọn vẹn nội dung sách!
Khi người mẹ không còn nhận biết được thời gian
0
Trước sự có mặt của cả gia đình， bà ngập ngừng， rồi nói rằng mình đang gặp vấn đề về trí nhớ và gần đây đã tìm đến sự giúp đỡ của bác sĩ thần kinh.
SÁCH HAY
Một chiến dịch ở Bắc Kỳ
0
Thị dân và quan lại mặc lễ phục lui tới thăm viếng nhau， tặng nhau những lá thiếp lớn màu đỏ và quà cáp.
Đi như tờ giấy trắng
0
Một trong những chuyến đi vào mùa Giáng sinh ghi dấu mãi trong tôi chính là về Đường Lâm， hay đúng hơn là về những ngôi làng quanh vùng Ba Vì， Sơn Tây.
Bill Gates - Tham vọng lớn lao và quá trình hình thành đế chế Microsoft
0
Khi không chơi bài buổi tối， Bill Gates thường làm việc ở Trung tâm Điện toán Aiken. Đó là lúc các máy tính ít được sử dụng nhất.
Những bá chủ không gian
0
Khi Blue Origin phóng và hạ cánh thành công tên lửa New Shepard， Jeff Bezos chỉ viết vài dòng trên Twitter. Trái lại， Elon Musk "tuôn" cả tràng dài trên mạng xã hội.
Người trẻ thời 4.0 - Uy quyền lộng lẫy
0
Trong số những kỹ năng mà người lao động phải có nếu không muốn bị bỏ lại phía sau， tư duy phản biện được nhiều người đặc biệt lưu ý.
Đi bộ xuyên Việt với cây đàn guitar
0
Thiên nhiên luôn biết cách chữa lành những tổn thương trong tôi. Thiên nhiên là mẹ， là người thầy hướng dẫn mỗi khi tôi lạc lối trong cuộc đời này.
Loạn 12 sứ quân
0
Sau khi Ngô Xương Xí chết， họ Ngô hết người kế vị. Trong nước một ngày không thể không có vua， Đinh Bộ Lĩnh lên ngôi， lấy tôn hiệu là Vạn Thắng Vương.
'Cô Vy' tự sự - gió và tình yêu vẫn thổi
0
Cơn đại dịch càn quét toàn cầu giúp chúng ta nhận ra giá trị cốt lõi của gia đình， kéo những người thân về với nhau.
Những ngày cách ly
0
Phải chăng chỉ cần có độ lùi của thời gian và trải nghiệm， con người có thể nhìn sự việc bằng góc độ hoàn toàn khác?
Machiavelli
0
Leonardo và Michelangelo - hai nghệ sĩ tài năng - cùng làm việc trong một tòa nhà. Điều đó cho thấy Florence từng quy tụ nhiều ngôi sao sáng.
Tạp chí điện tử Tri thức Cơ quan chủ quản: Hội Xuất bản Việt Nam Giấy phép báo chí: số 75/GP-BTTTT và số 442/GP-BTTTT do Bộ Thông tin và Truyền thông cấp ngày 26/02/2020 và ngày 29/11/2023 Phó tổng biên tập phụ trách: Lâm Quang Hiếu © Toàn bộ bản quyền thuộc Tri thức
Tòa soạn: Tầng 10， D29 Phạm Văn Bạch， Quận Cầu Giấy， Hà Nội Hotline: 0931.222.666
Giới thiệuLiên hệ: [email protected]
Chúng tôi sử dụng cookie để cải thiện trải nghiệm của bạn. Tìm hiểu về Chính sách Cookie tại đây
Từ chối Đồng ýPowered by soi cau 666 rong bach kim RSS sitemap HTMLsitemap
Copyright Powered by365站群 © 2013-2024
