La inteligencia artificial podría, en principio, ser un factor que contribuya al florecimiento humano, y es concebible que lo sea en algunos aspectos de la vida. Sin embargo, su desarrollo es principalmente orientado por los intereses del poder concentrado, mientras la producción de tecnologías que favorezcan genuinamente a la mayoría es secundaria y lenta. Ya casi todos los gobiernos del mundo utilizan sistemas inteligentes de vigilancia, la mayor parte de los cuales son exportados por China, y son absolutamente opacos e e inmunes al escrutinio público.
Por un lado, vigilar y castigar es más barato con inteligencia artificial que a través del ejercicio directo de la violencia, tanto económica como reputacionalmente. Los sistemas digitales de control permiten suprimir la disidencia antes de que el uso de la fuerza se vuelva necesario, reduciendo el daño moral y el costo logístico asociados al autoritarismo. Su posesión por parte de regímenes autocráticos no solo dificulta la disidencia y la posibilidad de combatir la tiranía, sino que hay una tendencia irresistible por parte de los regímenes liberales de incorporar dichos sistemas y volverse, en consecuencia, más opresivos. Dicha tendencia no depende de la ideología del gobierno del caso: desde la perspectiva del Estado, no hay nada más razonable que implementar dichos sistemas.
Un tercio de los países del mundo vive bajo el yugo de regímenes autocráticos. En los últimos diez años, de acuerdo al reporte de Varieties of Democracy (2018), más y más países han sucumbido a formas autoritarias de gobierno. Los aspectos de la democracia que hacen que una elección tenga sentido—medios de comunicación independientes, libertad de expresión, estado de derecho—se han debilitado progresivamente, y la distribución del poder político se ha vuelto aún menos equitativa: cada vez más personas son excluidas de la participación política debido a factores socio-económicos. La proliferación de la autocracia aumenta la demanda de mecanismos sofisticados de control; dichos mecanismos dificultan aún más la disidencia y la posibilidad de combatir la tiranía. Este círculo vicioso amenaza el estado de derecho y la democracia a nivel global.
Es poco concebible que el público general, que es por lo general desestimado en el diseño de la política de Estado, pueda establecer dichos límites antes de que sea demasiado tarde. Mi conocimiento es limitado, pero hasta ahora no he descubierto una propuesta o movimiento realista que pueda oponer genuina resistencia a esta tendencia global.