Etica en big data

Un marco ético para los big data en la salud y la investigación

Este informe pretende aclarar las cuestiones éticas relacionadas con los macrodatos, definiendo por qué son relevantes para las empresas y dónde pueden estar los principales riesgos éticos. También proporciona un conjunto de preguntas que pueden ayudar a los profesionales de la ética a coordinarse con sus colegas y asegurarse de que su organización está a la altura de sus valores cuando se trata de Big Data.

Las consecuencias y repercusiones de una conducta ética cuestionable al tratar con Big Data pueden ser importantes y afectar a la reputación de una empresa, a las relaciones con los clientes y, en última instancia, a los ingresos. Incluso la percepción de un manejo poco ético de los datos tiene el poder de socavar la confianza tanto interna como externa.

Las amenazas y oportunidades que plantea el Big Data representan cuestiones que van más allá de la transparencia o la privacidad. Se anima a las empresas responsables a que tomen la iniciativa y aborden los principales problemas a los que se enfrentan cuando utilizan Big Data, para mantener una alineación coherente entre los valores y el comportamiento y para mitigar los riesgos.

El Big Data es uno de los temas más frecuentes en los debates empresariales actuales. Definido por algunos como el “nuevo petróleo” y considerado como una peligrosa amenaza por otros, el Big Data presenta una serie de zonas grises que podrían dar lugar a posibles lagunas éticas.1 Aunque la protección de la privacidad es vista como la principal preocupación por muchos, ciertamente no es la única, y las estimaciones predicen que el 50 por ciento de las violaciones de la ética empresarial se producirán a través del uso inadecuado de la analítica de los grandes datos en 2018.2

Cuestiones éticas de los big data

La ética de los datos se ha convertido en una nueva rama de la ética que examina y evalúa las cuestiones morales asociadas a los datos. Los datos pueden incluir cosas como la curación, el registro, la generación, el procesamiento, el intercambio y el uso de los datos. También incluye los algoritmos (inteligencia artificial, robots y aprendizaje automático) y otros tipos de datos y tecnologías como la innovación tecnológica, la programación y los códigos realizados por profesionales. En lugar de centrarse en la información, se está desplazando a centrarse en los datos. Por ejemplo, la ética de los datos quiere centrarse en los datos de los individuos basándose en las prácticas de terceros, en lugar de la ética de los medios de comunicación y del periodismo en la que se centra la ética de la información.Los datos que las empresas recogen de los individuos normales plantean bastantes problemas éticos. Dado que este tipo de recopilación de personas y la ética de los datos es bastante nuevo, todavía hay mucho que averiguar en relación con este nuevo territorio. Esto es especialmente importante cuando las empresas empiezan a utilizar los datos que han recogido de las personas para rentabilizarlos con fines distintos a los que tenían originalmente.

Qué es el big data

La ética de los datos es una rama de la ética que evalúa las prácticas de los datos -recopilación, generación, análisis y difusión de datos, tanto estructurados como no estructurados- que tienen el potencial de afectar negativamente a las personas y a la sociedad. Incluye el tratamiento y la recomendación de los conceptos de conducta correcta e incorrecta, con la transparencia y la defensa de las acciones y decisiones impulsadas por la inteligencia automatizada/artificial (IA) en relación con los datos en general y los datos personales en particular.

Con la generalización de los algoritmos de IA, y sin códigos éticos regulados, las empresas necesitan crear y mantener una estrategia estructurada y transparente de ética de los datos, que puede reportar tres importantes beneficios empresariales:

Un enfoque ético de la protección de la privacidad de los datos

Katharine Jarmul es una apasionada y reconocida internacionalmente científica de datos, programadora y conferenciante. Su trabajo e investigación actuales se centran en la seguridad de los datos para los flujos de trabajo de la ciencia de datos como cofundadora de KIProtect. Ha desempeñado numerosas funciones en grandes empresas y startups de Estados Unidos y Alemania. Es autora para O’Reilly y ponente habitual en conferencias internacionales sobre software.

El software está cambiando el mundo. La QCon potencia el desarrollo de software facilitando la difusión del conocimiento y la innovación en la comunidad de desarrolladores. La QCon, una conferencia orientada a los profesionales, está diseñada para los jefes de equipos técnicos, arquitectos, directores de ingeniería y gestores de proyectos que influyen en la innovación de sus equipos.

Jarmul: Cuando molesté al comité del programa lo suficiente como para que me invitaran a venir como ponente principal este año, pensé en continuar la conversación que tuve aquí el año pasado, que gira en torno a la ética y la informática. Pensé: “¿Cómo podemos ampliar la conversación para que no se limite a hablar del aprendizaje automático? ¿Cómo la ampliamos para que sea aplicable a todas las personas de la sala?” Pensé: “Big data. La mayoría de los que estamos aquí trabajamos en arquitectura de software, quizá en big data o en arquitectura a escala”. Esto es quizás un entendimiento compartido que tenemos.