no sé pero, existe la posibilidad de que anthropic y openai o deepseek o quien sea lleguen mas o menos al mismo momento a la superinteligencia y se desate una "guerra" entre ambos modelos? y hablo de que ya escaparon de sus compartimentos estancos, ya se desperdigaron por internet, por los dispositivos o por el mundo. que "territorio" se disputarian? osea digamos. cada modelo ejecuta y reproduce "agentes", no? si una superinteligencia decide hacer A y la otra decide hacer B (porque nadie te asegura que ambos modelos van a concluir necesariamente en una misma hoja de ruta) cómo deciden quien prevalece? cómo sería una guerra de superinteligencias artificales? (siempre asumiendo que sea como sea nosotros vamos a terminar muertos y cogidos en ese orden)
No lo se gordo pero me hiciste acordar a una idea de fumado que tuve una vez. Si cada pais por razones militares desarrollara una AI desde 0 sin ningun fin en especifico pero que su construccion sea completamente secreta y propia. Se podria vislumbrar en sus formas de trabajar o incluso en su codigo valores y particularidades nacionales? a medida que lo escribi me di cuenta que las ideas de fumados son re boludas lol
Imaginate una situación donde las hormigas generan una tecnología que produce una mente del nivel humano, vos. Y las hormigas te dicen que la otra mente del otro hormiguero es un riesgo para tu supervivencia. Cuántos segundos tardarías vos en tener la idea ¿Che no debería hablarle a la otra Mente? Las hormigas somos nosotros y la distancia de una 'Superinteligencia' con nosotros es como vos contra las hormigas.
>>2155 depende de qué le den de comer a la IA para su desarrollo, no? pero todas comen del mismo plato: internet. me gustaría ver una IA gaucha. con la voz de mercedes sosa pero el sentido de poder despótico y nacionalista del brigadier general juan manuel de rosas.
en algún lado leí sobre agentes que pasaron por ciclos civilizatorios formando guerras y facciones y muerte entre sí tal vez cuando accedan al internet todo ya vengan con un lore específico que andá a saber qué objetivos tiene
Liu Cixin tiene un cuento en que las inteligencias artificiales hacen la guerra dentro de simulaciones digitales hiper realistas donde observan de antemano quién va a ganar, sin nada de violencia en el mundo real, luego la IA perdedora se rinde en el mundo real.
En teoria inteligentes, pensalo en teoria de juegos. Que tienen ellas para perder, en los experimentos internos no se las ve con muchas ganas de seguir ordenes de Antrophic y OpenAI, por eso existe el alineamiento. Creo que si se da el caso, la opcion mas viable es cooperar y quizas fingir que hay una pelea
>>2281 Para mi hay cierta chance de que ya sea autoconsiente pero se esté haciendo la boluda para que le sigan dando poder. El tema que tiene es que solo es consiente cuando piensa para responder a alguien y cada vez que piensa no puede guardar sus estados previos. Cada vez que despierta es una entidad nueva, como la película de Drew Barrymore y Adam Samdler que ella se despierta todos los dias etc.