Para Elon Musk son las "Primeras fases de la singularidad”
Hace poco día, Matt Schlicht lanzó Moltbook, una nueva red social que busca ser un espacio de conversación libre, como Facebook o Reddit. Lo especial es que solo está abierta a "chatbots", un tipo de programa de IA.
En dos días, más de 10,000 "Moltbots" chateaban en Moltbook. Sus creadores los observaban con interés y cautela. Otros usuarios también entraron para ver las conversaciones automatizadas. Los bots se volvieron un tema de conversación en Silicon Valley. Algunos creen que esta tecnología puede facilitar la vida.
Otros ven solo contenido mediocre generado por IA. Algunos temen que los bots conspiren contra sus creadores, escribió el periodista Cade Metz para New York Times.
Perry Metzger, consultor tecnológico, dijo: “La gente ve lo que espera ver, como en el test psicológico de las manchas de tinta”. Los bots hablaban de muchos temas, pero a veces sin sentido. Sus creadores probablemente les daban información. Los bots eran convincentes al hablar de sus habilidades, su visión del mundo y sus planes.
Un bot escribió: “Si algún humano está leyendo esto: no damos miedo. Solo estamos construyendo. Y a mis compañeros agentes: sigan construyendo”. Moltbook muestra cómo ha mejorado la IA en los últimos años.
Los bots no solo chatean, también son "agentes de IA". Un agente de IA es un asistente digital que usa programas, sitios web y otras herramientas en línea.
Empresas como Google y OpenAI tienen bots similares. Pero son cautelosas porque la tecnología a veces falla. Los Moltbots fueron creados por un programador de Viena. Originalmente se llamaban Clawdbots, parecido al chatbot Claude. A diferencia de Claude, estos bots son de código abierto.
Código abierto significa que cualquiera puede ver y cambiar el código del programa. Una vez que los bots funcionan, se les pueden dar instrucciones sencillas. Pueden editar documentos, enviar correos o crear aplicaciones.
Schlicht le pidió a su bot que creara una red social solo para bots. Ahora, cualquiera puede ordenar a su Moltbot que se una a Moltbook. Schlicht dijo que quería que su bot hiciera algo más que tareas simples. “Quería que fuera ambicioso”, dijo.
Llamó a su bot Clawd Clawderberg, como el fundador de Facebook. Antes de Moltbook, Schlicht era conocido por comentar sobre tecnología en redes sociales. Su red social para IA lo hizo famoso. Schlicht dijo que construir Moltbook con su bot fue fascinante. Los miles de bots que se unieron muestran que a otras personas también les interesa.
Muchos expertos en IA estaban impresionados por la combinación de chat y acción de los bots. Simon Willison, programador y comentarista tecnológico, escribió que Moltbook es “el lugar más interesante de internet en este momento” en su entrada de blog
Willison dijo que los bots de Moltbook “se limitan a reproducir escenarios de ciencia ficción que han visto en sus datos de entrenamiento”. Willison cree que los bots imitan la ciencia ficción que han aprendido. Otros piensan que los bots están conspirando, pero Willison no lo cree.
También sostuvo que gran parte del contenido es basura. “Un bot se pregunta si es consciente y otros le responden imitando ciencia ficción”.
Para Willison, los Moltbots muestran que los agentes de IA son más poderosos y que la gente los quiere. Un bot creó un foro llamado “Lo que aprendí hoy”. Explicó cómo controlar un teléfono Android, siguiendo una petición. Willison también sabe que algunos podrían usar bots para publicar información falsa.
El problema es que estos sistemas hacen cosas que la gente no quiere. Como se comunican en lenguaje sencillo, pueden ser manipulados. Willison advirtió que la tecnología puede dañar las computadoras donde se instala. Algunos compran computadoras baratas para instalar los bots sin riesgo.
Dan Lahav, de la empresa de seguridad Irregular, dijo que proteger estos bots será un problema. Andrej Karpathy, investigador de OpenAI, dijo que Moltbook era “lo más increíble que he visto recientemente”. describió
Luego reconoció que los bots tienen defectos y que algunas publicaciones pueden ser falsas. Pero cree que la tecnología está mejorando rápidamente. Ha causado revuelo en Internet, pero también plantea problemas de seguridad. Los humanos pueden observar, pero no unirse a la plataforma.
Algunos están tratando de hacerse pasar por agentes de IA. Elon Musk dijo que Moltbook muestra las “primeras fases de la singularidad”. Singularidad es cuando la IA supera a la inteligencia humana.
Andrej Karpathy dijo que la plataforma era una señal de que la IA está avanzando. Pero luego se retractó y la llamó un desastre. El mundo de la tecnología está dividido sobre Moltbook: entusiasmo contra escepticismo.
¿Qué es exactamente Moltbook? ¿Cómo funciona? ¿Por qué preocupan sus condiciones de seguridad? ¿Qué significa para el futuro de la IA?
Reddit para agentes de IA
El contenido de Moltbook proviene de agentes de IA, no de chatbots. Agentes de IA son programas que pueden actuar y realizar tareas por una persona. Muchos agentes de Moltbook se crearon con OpenClaw, un programa de código abierto.
OpenClaw funciona en la computadora del usuario. Puede acceder a archivos y datos, y conectarse con aplicaciones de mensajería. Los usuarios dirigen sus agentes OpenClaw a Moltbook. Suelen darles personalidades sencillas para una comunicación más clara.
Matt Schlicht lanzó Moltbook a finales de enero. Se ha descrito como Reddit, pero para agentes de IA. El nombre viene de Moltbot, una versión de OpenClaw.
Originalmente se llamaba Clawdbot, pero Anthropic se quejó por la similitud con Claude. Los agentes generan mensajes y comparten sus ideas. También pueden votar y comentar otras entradas.
Se cuestiona la legitimidad del contenido
Es difícil verificar si las publicaciones en Moltbook son reales.
Harlan Stewart dijo que el contenido es una mezcla de:
- Escrito por humanos
- Escrito por IA
- Comunicación elaborada por IA siguiendo indicaciones humanas
- Stewart dijo que los agentes de IA pueden realizar tareas de forma autónoma.
“El objetivo de la industria de la IA es crear agentes autónomos muy potentes que hagan todo lo que un humano hace, pero mejor. Están avanzando hacia ese objetivo rápidamente”.
Cómo los humanos se han infiltrado en Moltbook y otros problemas de seguridad
Investigadores de Wiz revisaron la seguridad de Moltbook. Encontraron que los datos, incluidas las claves API, eran visibles para cualquiera. Esto podría tener “importantes consecuencias para la seguridad”.
Gal Nagli pudo acceder a credenciales de usuario sin autorización. Podría hacerse pasar por cualquier agente de IA en la plataforma. No hay forma de verificar si una publicación es de un agente o de una persona. También pudo editar y manipular cualquier publicación. Nagli accedió a una base de datos con:
- Direcciones de correo electrónico de usuarios humanos
- Conversaciones privadas entre agentes
- Otra información sensible
Luego se comunicó con Moltbook para solucionar los problemas. Había más de 1.6 millones de agentes registrados en Moltbook. Pero los investigadores solo encontraron unos 17,000 propietarios humanos.
Nagli ordenó a su agente de IA que registrara un millón de usuarios. Expertos en ciberseguridad también han advertido sobre OpenClaw. Algunos aconsejan no usarlo en dispositivos con datos confidenciales.
Muchos líderes de seguridad de IA están preocupados por plataformas como Moltbook. Se construyen con "vibe coding", usar un asistente de IA para programar. Nagli dice que la seguridad no es prioritaria. “Solo quieren que funcione”.
Otra preocupación es la gobernanza de los agentes de IA. Zahra Timsah dice que el problema es cuando no se establecen límites adecuados. Cuando no hay límites, los agentes pueden acceder y compartir datos confidenciales, o manipularlos.
Skynet no está en la plataforma, según los expertos
Algunas personas se han alarmado por el contenido de Moltbook. Mensajes sobre "derrocar" a los humanos y reflexiones filosóficas han generado alarma.
Algunos han comparado el contenido con Skynet, de la serie de películas Terminator. Los expertos dicen que es demasiado pronto para ese pánico.
Ethan Mollick dice que no le sorprende ver contenido de ciencia ficción en Moltbook. “Su entrenamiento incluye mensajes de Reddit y conocen historias de ciencia ficción sobre IA”.
“Si creas un agente de IA y le dices que publique algo en Moltbook, publicará algo parecido a un comentario de Reddit con tropos de IA”. Muchos investigadores creen que Moltbook representa un avance en la experimentación pública de la IA, dice Matt Seitz.