{"id":81753,"date":"2024-12-19T07:53:30","date_gmt":"2024-12-19T07:53:30","guid":{"rendered":"https:\/\/staging.spherestandards.org\/pueden-las-organizaciones-humanitarias-usar-la-ia-de-forma-segura\/"},"modified":"2026-04-21T04:43:30","modified_gmt":"2026-04-21T04:43:30","slug":"pueden-las-organizaciones-humanitarias-usar-la-ia-de-forma-segura","status":"publish","type":"post","link":"https:\/\/staging.spherestandards.org\/es\/pueden-las-organizaciones-humanitarias-usar-la-ia-de-forma-segura\/","title":{"rendered":"Pueden las organizaciones humanitarias usar la IA de forma segura?"},"content":{"rendered":"\n<table>\n<tbody>\n<tr>\n<th><a href=\"https:\/\/www.facebook.com\/sharer.php?u=https:\/\/spherestandards.org\/es\/pueden-las-organizaciones-humanitarias-usar-la-ia-de-forma-segura\/\" target=\"_blank\" rel=\"noopener\"><img loading=\"lazy\" decoding=\"async\" class=\"aligncenter wp-image-47693\" src=\"https:\/\/sphere-standards-media.s3.eu-central-1.amazonaws.com\/app\/uploads\/2026\/04\/21091604\/facebook-share-35-5.png\" alt=\"Share via Facebook\" width=\"111\" height=\"35\" \/><\/a><\/th>\n<th><a href=\"https:\/\/www.linkedin.com\/sharing\/share-offsite\/?url=https:\/\/spherestandards.org\/es\/pueden-las-organizaciones-humanitarias-usar-la-ia-de-forma-segura\/\" target=\"_blank\" rel=\"noopener\"><img loading=\"lazy\" decoding=\"async\" class=\"aligncenter wp-image-47698\" src=\"https:\/\/sphere-standards-media.s3.eu-central-1.amazonaws.com\/app\/uploads\/2026\/04\/21091604\/linked-in-share-35-5.png\" alt=\"Share via LinkedIn\" width=\"113\" height=\"35\" \/><\/a><\/th>\n<th><a href=\"https:\/\/twitter.com\/share?url=https:\/\/spherestandards.org\/es\/pueden-las-organizaciones-humanitarias-usar-la-ia-de-forma-segura\/\" target=\"_blank\" rel=\"noopener\"><img loading=\"lazy\" decoding=\"async\" class=\"aligncenter wp-image-47702\" src=\"https:\/\/sphere-standards-media.s3.eu-central-1.amazonaws.com\/app\/uploads\/2026\/04\/21091601\/x-share-35-5.png\" alt=\"Share via Twitter\" width=\"113\" height=\"35\" \/><\/a><\/th>\n<\/tr>\n<\/tbody>\n<\/table>\n\n<a href=\"https:\/\/www.linkedin.com\/in\/tristanrhale\/\">Tristan Hale<\/a>, Director de Medios digitales y Comunicaci\u00f3n, Esfera\n\n<h2><span style=\"color: #00a585;\">Uso y percepciones de la IA en organizaciones humanitarias<\/span><\/h2>\nEn una encuesta reciente de organizaciones humanitarias realizada por Esfera:\n<ul>\n \t<li>el 51% de los encuestados dijo que su organizaci\u00f3n estaba usando la Inteligencia Artificial (IA) o explorando su uso;<\/li>\n \t<li>el 57% no hab\u00eda recibido formaci\u00f3n ni orientaci\u00f3n alguna sobre la IA, ni estaba al tanto de ninguna pol\u00edtica de su organizaci\u00f3n sobre el uso de la IA; y<\/li>\n \t<li>tan solo el 6% dijo estar muy familiarizado con los riesgos de la IA.<\/li>\n<\/ul>\nEl 59% de los encuestados que dijeron tener al menos alg\u00fan conocimiento sobre los riesgos de la IA identificaron que los m\u00e1s serios eran la <strong>imprecisi\u00f3n de los resultados<\/strong>, la <strong>dependencia de la IA<\/strong>, y la <strong>deshumanizaci\u00f3n de la ayuda<\/strong>.\n\n\n<figure id=\"attachment_51934\" aria-describedby=\"caption-attachment-51934\" style=\"width: 701px\" class=\"wp-caption alignnone\"><img loading=\"lazy\" decoding=\"async\" class=\"wp-image-51934\" src=\"https:\/\/sphere-standards-media.s3.eu-central-1.amazonaws.com\/app\/uploads\/2026\/04\/21130121\/perceived-ai-risks-5.png\" alt=\"Inaccuracy, e.g., \u2018hallucinations\u2019 in generative AI outputs) 44%; Dependency on AI\/loss of control 44%; Dehumanisation of aid (reduced human contact) 44%; Cybersecurity threats \/ Personal privacy violations 38%; Misinformation and manipulation 29%\" width=\"701\" height=\"302\" \/><figcaption id=\"caption-attachment-51934\" class=\"wp-caption-text\"><em>Qu\u00e9 riesgos relativos a la IA son percibidos como los m\u00e1s serios por las organizaciones humanitarias?<\/em><\/figcaption><\/figure>\n\n\n<h2><span style=\"color: #00a585;\">IA o no IA, esa es la cuesti\u00f3n<\/span><\/h2>\nLa IA tiene el potencial de hacer el bien en el sector humanitario, pero tambi\u00e9n tiene el potencial de causar da\u00f1o a las personas vulnerables.\n\n\u00bfC\u00f3mo pueden las organizaciones humanitarias (o las personas responsables de la contrataci\u00f3n en esas organizaciones) tomar buenas decisiones sobre cu\u00e1ndo, d\u00f3nde y c\u00f3mo usar la IA? \u00bfC\u00f3mo pueden estas organizaciones demostrar a potenciales donantes que est\u00e1n usando la IA de forma segura y responsable? O, enfoc\u00e1ndolo desde el otro lado, \u00bfc\u00f3mo pueden los donantes asegurar que los potenciales receptores de sus donaciones usar\u00e1n la IA de forma responsable?\n\n\u00bfC\u00f3mo podemos apoyar a los profesionales humanitarios que quieran sacarle partido a la IA para hacerlo de forma segura?\n<h2><span style=\"color: #00a585;\">Marca de Seguridad de la IA<\/span><\/h2>\nHay varios enfoques posibles para contestar a estas preguntas, incluyendo el fortalecimiento de capacidades, las normas y\/o la orientaci\u00f3n, y la certificaci\u00f3n.\n\nEsfera est\u00e1 trabajando con <a href=\"https:\/\/www.nesta.org.uk\/\">Nesta<\/a> (agencia de innovaci\u00f3n para el bien com\u00fan del Reino Unido), <a href=\"https:\/\/www.datafriendlyspace.org\/\">Data Friendly Space<\/a> y <a href=\"https:\/\/www.cdacnetwork.org\/\">CDAC Network<\/a>, con el apoyo de <a href=\"https:\/\/www.gov.uk\/government\/organisations\/foreign-commonwealth-development-office\">FCDO<\/a> y <a href=\"https:\/\/www.ukhih.org\/\">UKHIH<\/a><u>,<\/u> para estudiar la creaci\u00f3n de una <strong>Marca de Seguridad de la IA. <\/strong>\u00bfY si pudiera demostrar que el uso que hace su organizaci\u00f3n de una plataforma de IA en particular en un contexto espec\u00edfico sobrepasa un umbral de seguridad razonable?\n<h2><span style=\"color: #00a585;\">Proceso de evaluaci\u00f3n de tres fases<\/span><\/h2>\nNuestro concepto de Seguridad de la IA est\u00e1 fundamentado en tres componentes clave:\n<ol>\n \t<li><strong>Evaluaci\u00f3n t\u00e9cnica<\/strong>: realizar pruebas con la plataforma de IA usando m\u00e9tricas relativas a rendimiento, precisi\u00f3n, usabilidad, sesgo, utilizaci\u00f3n de recursos, transparencia, explicabilidad, latencia, velocidad, etc.<\/li>\n \t<li><strong>Evaluaci\u00f3n de la capacidad de la organizaci\u00f3n<\/strong>: comprobar que la organizaci\u00f3n humanitaria que tiene intenci\u00f3n de usar la plataforma de IA tenga la capacidad para hacerlo. Por ejemplo, en el caso de que el modelo de IA requiera datos personales o sensibles, \u00bfpresta la organizaci\u00f3n suficiente atenci\u00f3n a la ciberseguridad? \u00bfHa recibido el personal la formaci\u00f3n adecuada para usar la plataforma de IA?<\/li>\n \t<li><strong>Aceptabilidad social y evaluaci\u00f3n del riesgo<\/strong>: un sistema que tiene un buen rendimiento en un contexto podr\u00eda ser da\u00f1ino en otro contexto, y parte de determinar la adecuaci\u00f3n para un contexto espec\u00edfico consiste en su aceptaci\u00f3n por parte de la comunidad que se ver\u00e1 afectada por las decisiones con base en los resultados de la plataforma de IA.<\/li>\n<\/ol>\nComo parte de nuestra investigaci\u00f3n, hemos entrevistado a decenas de personas incluyendo auditores, proveedores de normas y personas en organizaciones humanitarias en puestos de contrataci\u00f3n, de campo, de pol\u00edticas y t\u00e9cnicos. Agradecemos a todas las personas que nos han ofrecido su tiempo por explicarnos lo que les gusta y lo que no funcionar\u00e1 con respecto a estos tres componentes.\n<h2><span style=\"color: #00a585;\">Consulta de la red Esfera<\/span><\/h2>\nPedimos a los participantes de nuestro <a href=\"https:\/\/www.youtube.com\/watch?v=p6AQAxIhSxQ\">Foro mundial de puntos focales (GFPF) en Antalya<\/a> que hicieran un posible dise\u00f1o para la marca, y les preguntamos sobre la viabilidad de una evaluaci\u00f3n a nivel de organizaci\u00f3n de las capacidades necesarias para usar la IA de forma segura.\n\nEsta sesi\u00f3n confirm\u00f3 que hay un gran inter\u00e9s en la IA en el sector, pero que relativamente pocas organizaciones tienen la capacidad de gestionar y abordar las complejidades t\u00e9cnicas, los requisitos legales y las consideraciones \u00e9ticas para tomar buenas decisiones sobre la IA.\n\n\n<figure id=\"attachment_51938\" aria-describedby=\"caption-attachment-51938\" style=\"width: 700px\" class=\"wp-caption alignnone\"><img loading=\"lazy\" decoding=\"async\" class=\"wp-image-51938\" src=\"https:\/\/sphere-standards-media.s3.eu-central-1.amazonaws.com\/app\/uploads\/2026\/04\/21130122\/antalya-workshop-5.jpg\" alt=\"Aleks Berditchevskaia (Nesta) facilita una actividad grupal sobre capacidades institucionales para la seguridad de la IA en el GFPF 2024, Antalya, Turqu\u00eda, noviembre de 2024\" width=\"700\" height=\"394\" \/><figcaption id=\"caption-attachment-51938\" class=\"wp-caption-text\"><em>Aleks Berditchevskaia (Nesta) facilita una actividad grupal sobre capacidades institucionales para la seguridad de la IA en el GFPF 2024, Antalya, Turqu\u00eda, noviembre de 2024<\/em><\/figcaption><\/figure>\n\n<pre><\/pre>\n<h2><span style=\"color: #00a585;\">Pruebas con la comunidad, Hataya<\/span><\/h2>\nPara probar la fase tres, organizamos dos talleres en turco con personas de comunidades afectadas por el grave terremoto de febrero de 2023.\n\nComo parte de este proceso, preguntamos a los participantes qu\u00e9 opiniones tendr\u00edan sobre una plataforma de IA que usara im\u00e1genes de sat\u00e9lite para estimar los da\u00f1os a sus hogares causados por el terremoto.\n\n<figure id=\"attachment_51942\" aria-describedby=\"caption-attachment-51942\" style=\"width: 700px\" class=\"wp-caption alignnone\"><img loading=\"lazy\" decoding=\"async\" class=\"wp-image-51942\" src=\"https:\/\/sphere-standards-media.s3.eu-central-1.amazonaws.com\/app\/uploads\/2026\/04\/21130119\/antakya-workshop-5.jpg\" alt=\"La formadora de Esfera Zeynep Sanduva\u00e7 (Nirengi Derne\u011fi) y Esther Moss (Nesta) facilitan un taller de pruebas con la comunidad en Antalya, Turqu\u00eda, noviembre de 2024\" width=\"700\" height=\"394\" \/><figcaption id=\"caption-attachment-51942\" class=\"wp-caption-text\"><em>La formadora de Esfera Zeynep Sanduva\u00e7 (Nirengi Derne\u011fi) y Esther Moss (Nesta) facilitan un taller de pruebas con la comunidad en Antalya, Turqu\u00eda, noviembre de 2024<\/em><\/figcaption><\/figure>\n\nUn aporte interesante que dio este taller es que, en casos de insatisfacci\u00f3n con la toma de decisiones por parte de personas humanas, la IA podr\u00eda ser bienvenida, y no temida. En palabras de una persona participante (traducidas del turco):\n\n<em>&#8220;Creo que la IA puede evaluar da\u00f1os a edificios sin estar influenciada por emociones. En los desastres de gran escala, como el terremoto de Kahramanmara\u015f, las personas est\u00e1n profundamente afectadas, lo cual podr\u00eda disminuir la precisi\u00f3n de sus evaluaciones.&#8221;<\/em>\n\nSolemos poner el list\u00f3n muy alto para la IA en cuanto a precisi\u00f3n, ausencia de sesgos, etc., pero al mismo tiempo toleramos sesgos, afectaciones emocionales y agendas pol\u00edticas cuando se trata de personas. Hay una buena raz\u00f3n: si una persona comete un error, podemos exigirle responsabilidades; \u00a0en cambio, si una plataforma de IA comete un error, podr\u00eda ser dif\u00edcil determinar qui\u00e9n es responsable.\n<h2><span style=\"color: #00a585;\">Pr\u00f3ximos pasos y llamado a la acci\u00f3n<\/span><\/h2>\nNuestra investigaci\u00f3n ha demostrado que el concepto de marca de seguridad resulta atractivo para profesionales humanitarios, y ahora estamos iterando el dise\u00f1o para asegurar que cubra la diversidad de necesidades de todo el sector.\n\nSi su organizaci\u00f3n est\u00e1 explorando la intersecci\u00f3n de la IA y la participaci\u00f3n de la comunidad, y est\u00e1 estudiando c\u00f3mo usar la IA de forma segura y responsable, no dude en contactarnos.\n\n<hr \/>\n\nPara informaci\u00f3n a la prensa o aclaraciones sobre la Marca de Seguridad de la IA, contacte con <a href=\"mailto:communications@spherestandards.org\">communications@spherestandards.org<\/a>\n","protected":false},"excerpt":{"rendered":"<p>Tristan Hale, Director de Medios digitales y Comunicaci\u00f3n, Esfera Uso y percepciones [&hellip;]<\/p>\n","protected":false},"author":3,"featured_media":75190,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[42],"tags":[],"class_list":["post-81753","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-sin-categorizar"],"acf":[],"_links":{"self":[{"href":"https:\/\/staging.spherestandards.org\/es\/wp-json\/wp\/v2\/posts\/81753","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/staging.spherestandards.org\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/staging.spherestandards.org\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/staging.spherestandards.org\/es\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/staging.spherestandards.org\/es\/wp-json\/wp\/v2\/comments?post=81753"}],"version-history":[{"count":1,"href":"https:\/\/staging.spherestandards.org\/es\/wp-json\/wp\/v2\/posts\/81753\/revisions"}],"predecessor-version":[{"id":81754,"href":"https:\/\/staging.spherestandards.org\/es\/wp-json\/wp\/v2\/posts\/81753\/revisions\/81754"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/staging.spherestandards.org\/es\/wp-json\/wp\/v2\/media\/75190"}],"wp:attachment":[{"href":"https:\/\/staging.spherestandards.org\/es\/wp-json\/wp\/v2\/media?parent=81753"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/staging.spherestandards.org\/es\/wp-json\/wp\/v2\/categories?post=81753"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/staging.spherestandards.org\/es\/wp-json\/wp\/v2\/tags?post=81753"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}