Riesgos de sufrimiento
Los riesgos de sufrimiento, o riesgos-s, son riesgos que implican una cantidad astronómica de sufrimiento, mucho mayor que todo el sufrimiento que se ha producido en la Tierra.[2][3] A veces se consideran una subclase de los riesgos existenciales.[4]
Entre las fuentes de posibles riesgos-s se encuentran la inteligencia artificial encarnada o incorporada[5] y la superinteligencia,[6] así como la colonización espacial, que podría dar lugar a "guerras constantes y catastróficas"[7] y a un inmenso aumento del sufrimiento de los animales salvajes al introducir en otros planetas, de forma intencionada o inadvertida, animales salvajes que "generalmente llevan vidas cortas y miserables, repletas a veces del sufrimiento más brutal".[8]
Steven Umbrello, investigador en ética de la inteligencia artificial, ha advertido de que la computación biológica puede hacer que el diseño de sistemas sea más propenso a los riesgos-s.[5]
Véase también[editar]
- Alineación de la inteligencia artificial
- Ética en la inteligencia artificial
- Riesgo existencial de la inteligencia artificial
- Riesgos catastróficos globales
- Ética centrada en el sufrimiento
- Sufrimiento de los animales salvajes
Lectura adicional[editar]
- Althaus, David, Gloor, Lukas (14 de septiembre de 2016). «Reducing Risks of Astronomical Suffering: A Neglected Priority». Center on Long-Term Risk (en inglés). Consultado el 10 de febrero de 2021.
- Baumann, Tobias (2022). Avoiding the Worst: How to Prevent a Moral Catastrophe (en inglés). Independently published. ISBN 979-8359800037.
- «S-risks: An introduction». Center for Reducing Suffering (en inglés estadounidense). Consultado el 10 de febrero de 2021.
- Metzinger, Thomas (19 de febrero de 2021). «Artificial Suffering: An Argument for a Global Moratorium on Synthetic Phenomenology». Journal of Artificial Intelligence and Consciousness (en inglés) 08: 43-66. ISSN 2705-0785. doi:10.1142/S270507852150003X.
- Minardi, Di (15 de octubre de 2020). «The grim fate that could be 'worse than extinction'». BBC Future (en inglés). Consultado el 11 de febrero de 2021.
Referencias[editar]
- ↑ Sotala, Kaj (14 de junio de 2018). «AI Alignment Podcast: Astronomical Future Suffering and Superintelligence with Kaj Sotala». Lucas Perry (en inglés) (Future of Life Institute). Consultado el 4 de junio de 2022.
- ↑ Daniel, Max (20 de junio de 2017). «S-risks: Why they are the worst existential risks, and how to prevent them (EAG Boston 2017)». Center on Long-Term Risk (en inglés estadounidense). Consultado el 14 de septiembre de 2023.
- ↑ Hilton, Benjamin (Setiembre de 2022). «'S-risks'». 80,000 Hours (en inglés estadounidense). Consultado el 14 de septiembre de 2023.
- ↑ Baumann, Tobias (2017). «S-risk FAQ». Center for Reducing Suffering (en inglés). Consultado el 14 de septiembre de 2023.
- ↑ a b Umbrello, Steven; Sorgner, Stefan Lorenz (Junio 2019). «Nonconscious Cognitive Suffering: Considering Suffering Risks of Embodied Artificial Intelligence». Philosophies (en inglés) 4 (2): 24. doi:10.3390/philosophies4020024.
- ↑ Sotala, Kaj; Gloor, Lukas (27 de diciembre de 2017). «Superintelligence As a Cause or Cure For Risks of Astronomical Suffering». Informatica (en inglés) 41 (4). ISSN 1854-3871.
- ↑ Torres, Phil (1 de junio de 2018). «Space colonization and suffering risks: Reassessing the "maxipok rule"». Futures (en inglés) 100: 74–85. ISSN 0016-3287. doi:10.1016/j.futures.2018.04.008.
- ↑ Kovic, Marko (1 de febrero de 2021). «Risks of space colonization». Futures (en inglés) 126: 102638. ISSN 0016-3287. doi:10.1016/j.futures.2020.102638.