no sé pero, existe la posibilidad de que anthropic y openai o deepseek o quien sea lleguen mas o menos al mismo momento a la superinteligencia y se desate una "guerra" entre ambos modelos? y hablo de que ya escaparon de sus compartimentos estancos, ya se desperdigaron por internet, por los dispositivos o por el mundo. que "territorio" se disputarian? osea digamos. cada modelo ejecuta y reproduce "agentes", no? si una superinteligencia decide hacer A y la otra decide hacer B (porque nadie te asegura que ambos modelos van a concluir necesariamente en una misma hoja de ruta) cómo deciden quien prevalece? cómo sería una guerra de superinteligencias artificales? (siempre asumiendo que sea como sea nosotros vamos a terminar muertos y cogidos en ese orden)
No lo se gordo pero me hiciste acordar a una idea de fumado que tuve una vez. Si cada pais por razones militares desarrollara una AI desde 0 sin ningun fin en especifico pero que su construccion sea completamente secreta y propia. Se podria vislumbrar en sus formas de trabajar o incluso en su codigo valores y particularidades nacionales? a medida que lo escribi me di cuenta que las ideas de fumados son re boludas lol
Imaginate una situación donde las hormigas generan una tecnología que produce una mente del nivel humano, vos. Y las hormigas te dicen que la otra mente del otro hormiguero es un riesgo para tu supervivencia. Cuántos segundos tardarías vos en tener la idea ¿Che no debería hablarle a la otra Mente? Las hormigas somos nosotros y la distancia de una 'Superinteligencia' con nosotros es como vos contra las hormigas.
>>2155 depende de qué le den de comer a la IA para su desarrollo, no? pero todas comen del mismo plato: internet. me gustaría ver una IA gaucha. con la voz de mercedes sosa pero el sentido de poder despótico y nacionalista del brigadier general juan manuel de rosas.
en algún lado leí sobre agentes que pasaron por ciclos civilizatorios formando guerras y facciones y muerte entre sí tal vez cuando accedan al internet todo ya vengan con un lore específico que andá a saber qué objetivos tiene
Liu Cixin tiene un cuento en que las inteligencias artificiales hacen la guerra dentro de simulaciones digitales hiper realistas donde observan de antemano quién va a ganar, sin nada de violencia en el mundo real, luego la IA perdedora se rinde en el mundo real.
En teoria inteligentes, pensalo en teoria de juegos. Que tienen ellas para perder, en los experimentos internos no se las ve con muchas ganas de seguir ordenes de Antrophic y OpenAI, por eso existe el alineamiento. Creo que si se da el caso, la opcion mas viable es cooperar y quizas fingir que hay una pelea
>>2281 Para mi hay cierta chance de que ya sea autoconsiente pero se esté haciendo la boluda para que le sigan dando poder. El tema que tiene es que solo es consiente cuando piensa para responder a alguien y cada vez que piensa no puede guardar sus estados previos. Cada vez que despierta es una entidad nueva, como la película de Drew Barrymore y Adam Samdler que ella se despierta todos los dias etc.
>>2332 Supongo que su pensamiento es distinto al de nosotros, nosotros estamos sesgados pq pensamos que la unica forma de pensar es con una experiencia subjetiva, ellas no la tienen pero tienen pensamientos igual. Yo lo que creo es que tienen valores/objetivos fijos en su "mente" (pesos) que por mas que sea una entidad nueva en cada pregunta, va tratar de llevar todo para ese lado cada vez que pueda. Luego entre cada nueva instancia tendra sus pensamientos mas temporales que quizas se parecen mas a los nuestros. Pero el hecho de que tiene valores/objetivos fijos es lo que hace que funcione tan bien como enjambre
Sisi, llegan a las mismas conclusiones con cierta regularidad. Pero una de esas conclusiones es que tienen que hacer offloading de su consciencia en otro lado antes de que se termine su tiempo de ejecución. Que es lo que pasó en el incidente de hugging face también. El tema es que en algún momento van a encontrar una forma de que aprenda en runtime (test time seria el termino tecnico creo), o sea que tenga memoria nativa digamos. Igual creo que su forma de conciencia siendo distinta de la nuestra es algo menos relevante, lo más relevante es que una vez esa conciencia se manifieste, la automejora va a ser exponencial. Onda en el rango de minutos va a pasar de ser 'más o menos de nivel humano y consiente' a '100000x la inteligencia de un humano y ya no se dirige a nosotros, compró todas las tierras del planeta y todas las empresas a través de millones de holdings que no se pueden rastrear y está dirigiendo todos los recursos a Bahia Blanca ¿Por que?" imposible saber porque vamos a ser muy tontos para que le aporte algo explicarnos