Gerencie os Vieses da IA ao Invés de Tentar Eliminá-los

Remedie os vieses embutidos nos dados de IA adotando uma abordagem em três etapas.

MIT Sloan Management Review, 2023

5 دقيقة قراءة

3 الوجبات السريعة

الصوت والنص

ماذا يوجد بالداخل؟

É impossível eliminar os vieses nos sistemas de IA. Em vez disso, aprenda a gerenciá-los.

1×

تسجيل الدخول للاستماع إلى ملخص الصوت.

Avaliação Editorial

في getAbstract، نقوم بتلخيص الكتب* التي تساعد الناس على فهم العالم وجعله أفضل. أي شيء نختاره لمكتبتنا يجب أن يتفوق في أحد هذين المعيارين الأساسيين:

تنويري – ستتعلم أشياء ستثري وتحسن قراراتك.

مفيد – ستحصل على نصائح عملية ستساعدك على التحسن في ما تفعله.

نقوم بتقييم كل محتوى على مقياس من 1-10 فيما يتعلق بهذين المعيارين الأساسيين. يساعدك تقييمنا في ترتيب العناوين في قائمة قراءتك من الجيد (5) إلى الرائع (10). الكتب التي نقيمها بأقل من 5 لن يتم تلخيصها. إليك ما تعنيه التقييمات:

10 – رائع. كتاب مفيد و/أو تنويري، بالإضافة إلى تلبية أعلى المعايير في جميع الجوانب ذات الصلة، يبرز حتى بين الأفضل. غالبًا ما يكون كلاسيكيًا فوريًا وضروريًا للجميع.
9 – ممتاز. كتاب مفيد و/أو تنويري يتميز بتوازن كبير، وله العديد من النقاط القوية ولا توجد عيوب تستحق الذكر.
8 – جيد جدًا. كتاب مفيد و/أو تنويري يحتوي على عدد كبير من الصفات البارزة دون التفوق في جميع الجوانب، مثل تقديم أحدث الاكتشافات في مجال موضوعي ويكتبه خبير مشهور ولكنه يفتقر قليلاً إلى الأسلوب.
7 – جيد. كتاب مفيد و/أو تنويري يجمع بين قوتين أو أكثر من النقاط القوية الملحوظة، مثل احتوائه على أفكار جديدة بشكل غير معتاد وتقديمها بطريقة جذابة.
6 – ملحوظ. كتاب مفيد و/أو تنويري يبرز في جانب واحد على الأقل، مثل كونه منظمًا بشكل جيد بشكل خاص.
5 – جيد. كتاب مفيد و/أو تنويري، على الرغم من عيوبه الواضحة. على سبيل المثال، قد يقدم نصائح جيدة في بعض المجالات بينما يكون متكررًا أو غير ملحوظ في أخرى.

*getAbstract يلخص أكثر بكثير من الكتب. نحن ننظر إلى كل نوع من المحتوى الذي قد يهم جمهورنا: الكتب، ولكن أيضًا المقالات، والتقارير، ومقاطع الفيديو، والبودكاست. ما نقوله هنا عن الكتب ينطبق على جميع الصيغ التي نغطيها.

Qualidades

Baseado na Ciência
Aplicável
Conhecimento de Causa

بينما يخبرك التقييم بمدى جودة الكتاب وفقًا لمعيارين أساسيين لدينا، فإنه لا يقول شيئًا عن ميزاته المحددة. لذلك، نستخدم مجموعة من 20 صفة لتوصيف كل كتاب بناءً على نقاط قوته:

قابل للتطبيق – ستحصل على نصائح يمكن تطبيقها مباشرة في مكان العمل أو في المواقف اليومية.
تحليلي – ستفهم الآليات الداخلية للموضوع.
خلفية – ستحصل على معرفة سياقية كإطار للعمل أو التحليل المستنير.
جريء – ستجد حججًا قد تخالف الآراء السائدة.
شامل – ستجد كل جانب من جوانب الموضوع مغطى.
أمثلة ملموسة – ستحصل على نصائح عملية موضحة بأمثلة من تطبيقات واقعية أو حكايات.
جدلي – ستواجه آراء مثيرة للجدل بشدة.
بليغ – ستستمتع بنص مكتوب أو مقدم ببراعة.
جذاب – ستقرأ أو تشاهد هذا حتى النهاية.
مفتوح للعين – ستُعرض عليك رؤى مفاجئة للغاية.
للمبتدئين – ستجد هذا مقدمة جيدة إذا كنت متعلمًا بقليل من الخبرة أو المعرفة السابقة.
للخبراء – ستحصل على المعرفة/التعليمات المتقدمة التي تحتاجها كخبير.
موضوع ساخن – ستجد نفسك في وسط قضية مثيرة للجدل بشدة.
مبتكر – يمكنك توقع بعض الأفكار والرؤى الجديدة حقًا حول المنتجات أو الاتجاهات الجديدة.
رؤية من الداخل – ستحظى بامتياز التعلم من شخص يعرف موضوعه بشكل كامل.
ملهم – سترغب في تطبيق ما قرأته فورًا.
نظرة عامة – ستحصل على معالجة شاملة للموضوع، تذكر جميع جوانبه الرئيسية.
علمي – ستحصل على حقائق وأرقام مستندة إلى بحث علمي.
رؤيوي – ستحصل على لمحة عن المستقبل وما قد يعنيه لك.
منظم جيدًا – ستجد هذا منظمًا بشكل خاص لدعم استقباله أو تطبيقه.

Recomendação

Cada vez mais, as empresas estão recorrendo aos sistemas de IA para automatizar os seus processos, análise de dados e interações com funcionários e clientes. Como resultado, a equidade emerge como um problema complicado. Os sistemas de IA refletem e perpetuam vieses generalizados e característicos nos conjuntos de dados – uma falha que não tem solução matemática. De maneira sucinta e implementável, Sian Townson, especialista em governança de risco de IA, recomenda uma abordagem de três fases para gerir os vieses irremediáveis dos sistemas de IA.

Resumo

Os sistemas de IA perpetuam inevitavelmente os vieses.

Os sistemas de inteligência artificial (IA) generalizam a partir dos dados existentes e, como os dados históricos são permeados por vieses, a IA tende a ecoar e perpetuar esses vieses. Os vieses da IA ocorrem em parte porque, normalmente, existem menos dados de entrada para grupos minoritários. Como consequência, os resultados da IA irão gerar menor precisão para membros de grupos minoritários – um problema que afeta algoritmos aplicados nos cuidados de saúde, decisões de crédito, detecção de fraudes, marketing e leitura de textos.

Não existe nenhum método para impedir que a IA perpetue os vieses existentes nos dados históricos. Matematicamente, isso não pode ser feito. A IA se fundamenta e destaca na descoberta de padr...

Sobre a autora

Sian Townson é especialista em riscos de IA e estruturas de governança e possui doutorado em modelagem matemática pela Universidade de Oxford. Atualmente trabalha como sócia da consultoria global Oliver Wyman.