Mais do que uma Falha

Confrontando vieses de raça, gênero e capacidade no mundo da tecnologia

MIT Press, 2023

15 دقيقة قراءة

7 الوجبات السريعة

الصوت والنص

ماذا يوجد بالداخل؟

Aprenda sobre o viés da máquina, o seu impacto em diversos setores e comunidades e como ele perpetua o status quo.

1×

تسجيل الدخول للاستماع إلى ملخص الصوت.

Avaliação Editorial

في getAbstract، نقوم بتلخيص الكتب* التي تساعد الناس على فهم العالم وجعله أفضل. أي شيء نختاره لمكتبتنا يجب أن يتفوق في أحد هذين المعيارين الأساسيين:

تنويري – ستتعلم أشياء ستثري وتحسن قراراتك.

مفيد – ستحصل على نصائح عملية ستساعدك على التحسن في ما تفعله.

نقوم بتقييم كل محتوى على مقياس من 1-10 فيما يتعلق بهذين المعيارين الأساسيين. يساعدك تقييمنا في ترتيب العناوين في قائمة قراءتك من الجيد (5) إلى الرائع (10). الكتب التي نقيمها بأقل من 5 لن يتم تلخيصها. إليك ما تعنيه التقييمات:

10 – رائع. كتاب مفيد و/أو تنويري، بالإضافة إلى تلبية أعلى المعايير في جميع الجوانب ذات الصلة، يبرز حتى بين الأفضل. غالبًا ما يكون كلاسيكيًا فوريًا وضروريًا للجميع.
9 – ممتاز. كتاب مفيد و/أو تنويري يتميز بتوازن كبير، وله العديد من النقاط القوية ولا توجد عيوب تستحق الذكر.
8 – جيد جدًا. كتاب مفيد و/أو تنويري يحتوي على عدد كبير من الصفات البارزة دون التفوق في جميع الجوانب، مثل تقديم أحدث الاكتشافات في مجال موضوعي ويكتبه خبير مشهور ولكنه يفتقر قليلاً إلى الأسلوب.
7 – جيد. كتاب مفيد و/أو تنويري يجمع بين قوتين أو أكثر من النقاط القوية الملحوظة، مثل احتوائه على أفكار جديدة بشكل غير معتاد وتقديمها بطريقة جذابة.
6 – ملحوظ. كتاب مفيد و/أو تنويري يبرز في جانب واحد على الأقل، مثل كونه منظمًا بشكل جيد بشكل خاص.
5 – جيد. كتاب مفيد و/أو تنويري، على الرغم من عيوبه الواضحة. على سبيل المثال، قد يقدم نصائح جيدة في بعض المجالات بينما يكون متكررًا أو غير ملحوظ في أخرى.

*getAbstract يلخص أكثر بكثير من الكتب. نحن ننظر إلى كل نوع من المحتوى الذي قد يهم جمهورنا: الكتب، ولكن أيضًا المقالات، والتقارير، ومقاطع الفيديو، والبودكاست. ما نقوله هنا عن الكتب ينطبق على جميع الصيغ التي نغطيها.

Qualidades

Revelador
Audaz
Inspirador

بينما يخبرك التقييم بمدى جودة الكتاب وفقًا لمعيارين أساسيين لدينا، فإنه لا يقول شيئًا عن ميزاته المحددة. لذلك، نستخدم مجموعة من 20 صفة لتوصيف كل كتاب بناءً على نقاط قوته:

قابل للتطبيق – ستحصل على نصائح يمكن تطبيقها مباشرة في مكان العمل أو في المواقف اليومية.
تحليلي – ستفهم الآليات الداخلية للموضوع.
خلفية – ستحصل على معرفة سياقية كإطار للعمل أو التحليل المستنير.
جريء – ستجد حججًا قد تخالف الآراء السائدة.
شامل – ستجد كل جانب من جوانب الموضوع مغطى.
أمثلة ملموسة – ستحصل على نصائح عملية موضحة بأمثلة من تطبيقات واقعية أو حكايات.
جدلي – ستواجه آراء مثيرة للجدل بشدة.
بليغ – ستستمتع بنص مكتوب أو مقدم ببراعة.
جذاب – ستقرأ أو تشاهد هذا حتى النهاية.
مفتوح للعين – ستُعرض عليك رؤى مفاجئة للغاية.
للمبتدئين – ستجد هذا مقدمة جيدة إذا كنت متعلمًا بقليل من الخبرة أو المعرفة السابقة.
للخبراء – ستحصل على المعرفة/التعليمات المتقدمة التي تحتاجها كخبير.
موضوع ساخن – ستجد نفسك في وسط قضية مثيرة للجدل بشدة.
مبتكر – يمكنك توقع بعض الأفكار والرؤى الجديدة حقًا حول المنتجات أو الاتجاهات الجديدة.
رؤية من الداخل – ستحظى بامتياز التعلم من شخص يعرف موضوعه بشكل كامل.
ملهم – سترغب في تطبيق ما قرأته فورًا.
نظرة عامة – ستحصل على معالجة شاملة للموضوع، تذكر جميع جوانبه الرئيسية.
علمي – ستحصل على حقائق وأرقام مستندة إلى بحث علمي.
رؤيوي – ستحصل على لمحة عن المستقبل وما قد يعنيه لك.
منظم جيدًا – ستجد هذا منظمًا بشكل خاص لدعم استقباله أو تطبيقه.

Recomendação

Talvez a sua tendência seja descartar situações de viés da máquina por acreditar que sejam “falhas”. No entanto, elas são estruturais e refletem o racismo, o sexismo e o capacitismo do mundo real, afirma a professora de jornalismo de dados Meredith Broussard. A tecnologia deve funcionar para todos – ninguém pode se sentir impedido de utilizar a tecnologia com base na cor da pele, sexo, idade ou habilidade. Broussard apresenta vários estudos de caso de viés da máquina, detalhando os danos causados em áreas como policiamento e assistência médica. Ela desafia as Big Tech a prestarem contas e trabalharem em prol do interesse público.

Resumo

O viés da máquina é um problema estrutural que requer soluções complexas.

As pessoas assumem que os computadores podem resolver problemas sociais, mas isso nem sempre é verdade. As máquinas somente podem calcular a justiça matemática, que é diferente da justiça social. Um computador pode ser programado para criar matematicamente uma solução, mas isso não significa que os seus algoritmos sejam livres de vieses e de tomadas de decisão neutras. Os programadores são seres humanos que trazem os seus preconceitos – como aqueles enraizados no racismo, privilégio e ganância – para os seus trabalhos. A crença de que a tecnologia irá resolver os problemas sociais indica um grande nível de “tecnochauvinismo”, ignorando o fato de que existe sim o viés da máquina e que igualdade muitas vezes difere de justiça ou equidade.

As pessoas raramente desenvolvem tecnologias tendenciosas intencionalmente. A maioria dos engenheiros talvez acredite incorretamente que esteja construindo uma tecnologia “neutra”. Como exemplo de viés da máquina, veja o caso do vídeo de um dispensador de sabonete “racista” que se tornou viral em 2017: um homem de pele mais escura descobriu que o dispensador de...

Sobre a autora

Meredith Broussard é jornalista especializada em ciência de dados e autora de vários livros, incluindo Artificial Unintelligence: How Computers Misunderstand the World. Ela também atua como professora associada no Journalism Institute da New York University e diretora de pesquisa da NYU Alliance for Public Interest Technology.