¿quién dice espera?

el 26 de septiembre de 1983, pasada la medianoche, una computadora soviética le dijo a stanislav petrov que venían cinco misiles. su trabajo era confiar en ella. no le creyó. dijo que era una falsa alarma y esperó, sin saber si tenía razón. era el reflejo del sol en las nubes.

el 19 de septiembre conté esa historia en una ppt party, en cusco, en español. la llamé ¿quién dice espera?. empezaba en el búnker, con la cuenta de los misiles, y terminaba en hoy. la armé sobre tres ideas:

• la espera. al mundo lo salvó alguien que pudo decir "espera". hoy la ia se vende como el fin de la espera.
• los tres poderes. petrov podía revisar lo que decía la máquina, sabía que su computadora no tenía cerebro, y tenía la última palabra: sin él no volaba nada. hoy los tres se dieron vuelta: a la ia no la entendemos por dentro, ya no es una máquina sin cerebro, y cada vez más detecta, decide y ejecuta sola.
• el filtro. en 1983 el sistema castigó a petrov por esperar. hoy los que piden esperar se van de los laboratorios avisando. yo los llamé los petrov modernos.

la última diapositiva eran dos velas apagadas y una frase: hoy la silla es nuestra.

la sala preguntó por qué lo hizo petrov. yo dije que no quería la responsabilidad de desatar una guerra nuclear. alguien respondió que entonces el problema es el humano.

eso es lo bonito de las personas: tenemos valores intrínsecos.

otros dijeron que la ia todavía no les preocupa mucho, que les preocuparían más los robots físicos. otro dijo que no cree que la ia llegue a la superinteligencia. le dije que sí, que podría ser cierto, pero que lo que quieren los laboratorios de ia es justamente llegar a esa superinteligencia.

nadie estuvo de acuerdo con todo. eso me gustó. la presentación sirve para eso: para pensar juntos, incluso en contra.

una semana después, el 26 de septiembre, conté la misma historia otra vez: de memoria, con una vela, en el primer aniversario de de profundis. esa noche tiene su propio post.