Neru @gateta.systems · 20hCritico la forma de usar algo cierto para decir algo estúpido, que lo veo mucho últimamente. 010
Neru @gateta.systems · 05/10/2026Chat que sepáis que autoconsumo y tener consola u ordenador es moralmente equivalente a un coche. Y además tienes que encargarte del mantenimiento. 010
Neru @gateta.systems · 05/10/2026Acabo de leer otra vez que self-hosting no es eficiente. Esta vez diciendo que es moralmente equivalente a desplazarse en coche que es horriblemente ineficiente. Lmao. 210
Neru @gateta.systems · 05/10/2026No tengo la respuesta sobre cómo conseguir más aliados, pero dudo que sea 'quiero que sacrifiques tu conveniencia por esta causa ahora mismo y a nuestra manera o sufre nuestro dogpiling' día sí y día también quitándole más sueño a usuarios que se acaban de enterar que a la persona responsable. 010
Neru @gateta.systems · 05/10/2026La realidad es que la gran mayoría de la gente no va a sacrificar su conveniencia por tu causa y su subconsciente prefiere matar al mensajero. No digo que no debería ser el caso, pero es el caso y es básico. Es imposible no saber esto. 110
Neru @gateta.systems · 05/10/2026Si suficiente gente tuviera buena moral, el problema no sería el problema que es, pero la realidad es que la mayoría de gente no tiene tan buena moral con temas ajenos. Atacar a alguien que está en ese sitio, es incompatible con conseguir aliados. Y aún si lo fuera, no puedes imponer tu approach. 110
Neru @gateta.systems · 05/10/2026Lo de la gente que ha echado a Y*nayu de Bsky es pa mear y no echar gota. Si tu approach a evitar odio es evitar que la persona que odia reciba dinero y lo haces jodiendo al resto, es un approach destinado al fracaso. 110
Neru @gateta.systems · 05/10/2026Hmm pero entonces dónde crees que está la causa? Puede ser el harness o llama. O mala suerte. Crees que puede ser por quant? Kai no tiene problemas con muchas herramientas. Los problemas que tuve hace +1 mes venían de un bug relacionado con KV, hay mucho detrás de la cortina con Mamba y MTP. 210
Neru @gateta.systems · 05/10/2026La semana que viene comprobaré si PCIe 5.0 puede rular sin errores en un cable pasivo de 50cm o no. Todo apunta a que no, incluido el sentido común, pero no he encontrado pruebas. 000
Neru @gateta.systems · 04/10/2026Uepa, no salieron bien los cálculos. Se arregló en frío (reiniciando backend) para esa sesión? Desde que tengo funcionando que OUI reenvíe el reasoning (🙃🫠) no he vuelto a ver nada raro. 110
Neru @gateta.systems · 03/10/2026Si piensan que en el desierto sólo la izquierda va a ofrecer agua es de hacérselo mirar. 010
Neru @gateta.systems · 02/10/2026*apuntando al listado de cyber tener hardware de red de diferentes chipsets mientras pienso en el resto* 010
Neru @gateta.systems · 02/10/2026Con todo el tema de la IA y la ciberseguridad no he visto a nadie mencionar hardware. No hay mucho que decir de lo jodido que sería o será. 110
Neru @gateta.systems · 02/10/2026Sé que me explico fatal pero mi post original no es "akchually opino que dejar que la IA piense y decida por ti es bueno" sino "me molesta que los marcos que rulan conducen el debate a demonizar la IA y sus usuarios sin tener en cuenta raíces reales de problemas ni usos beneficiosos para todos". 020
Neru @gateta.systems · 02/10/2026Lo que mi post dice es que eso es bueno y que si hay gente pillándose la polla con la puerta del microondas no es culpa del microondas y tampoco lo voy a prohibir. Lo que mi post critica es enmarcar la IA de forma que sólo vale para cosas negativas ignorando las positivas y problemas subyacentes. 110
Neru @gateta.systems · 02/10/2026Cognitive offloading = la app de contactos, calendario, calculadora, gps, recordatorios, la lista de la compra, el ordenador interno de un coche, gestor de contraseñas, hojas de cálculo, modo auto en cámaras, Ctrl+F, y un largo etc. La IA permite y permitirá hacer más y más de eso. 111
Neru @gateta.systems · 02/10/2026Pero qué tiene que ver. Es como: no me gusta la gente que mete bolas de aluminio en el microondas. Es que el marco es falso. Estáis intentando enmarcarlo en que tiene que ver con pasar el pensamiento crítico a la máquina y no es así. Tu propio post indica que el microondas no es el problema. 100
Neru @gateta.systems · 02/10/2026Aún así yo defiendo que pueda hacer tal cosa si así lo quiere. Pero cuando una herramienta permite salir a alguien de lo malo y feo, de esa abducción diaria que sufrimos, y tener más tiempo libre para ser más humanos y hacer lo que nos gusta, atacar la herramienta es estúpido. Busca en otro sitio. 011
Neru @gateta.systems · 02/10/2026Siento volver a sacar la carta pero que el offloading pueda ser una felicitación de cumpleaños escrita por ChatGPT es un problema del capitalismo, no de la cosa que habilita offloading. ¿Por qué eligió recortar el tiempo en algo humano y bonito y no otra cosa? ¿Qué hizo con el tiempo ahorrado? 110
Neru @gateta.systems · 02/10/2026Últimamente ruló el debate de cognitive offloading y se plantea como algo malo, y yo me acuerdo de cuando se hablaba del estrés y malestar y que no estamos hechos para los modelos de vida actuales y tanta información y complejidad. 320
Neru @gateta.systems · 02/10/2026Al final nadie tiene una bola de cristal para ver el futuro así que cualquier postura es válida. Hay gente de izquierdas mirando esto con detenimiento, y hay gente de izquierdas repitiendo lo que han leído por ahí, midiendo pureza, hasta insultando y deseando la muerte, todos los días en esta red. 000
Neru @gateta.systems · 02/10/2026No claro, arriba, son todos idiotas, no saben para que quieren tanto hardware, compran todo 2027 porque no saben lo que hacen. Yo creo que saben lo que hacen. No deja de ser una apuesta enorme. "Nunca podrá ser creativo" - cuando equivalga a un (1) cerebro humano veremos qué ocurre pero faltan años. 100
Neru @gateta.systems · 02/10/2026La gente es muy dura con esta tecnología. Todos hemos visto el suelo y es slop. ¿Y el techo? Hemos pasado del equivalente de cerebro de rata a cerebro de gato, y superado cerebro de gato, y aún estamos años lejos de llegar al tamaño de un cerebro humano, y sin embargo.. 100
Neru @gateta.systems · 02/10/2026Mi reacción fue "wow" + "bullshit" + "no tengo tanto hardware", pero la verdad es que no lo he probado, es la primera vez que un LLM tiene tanta iniciativa. Sospecho que fallaría en tal tarea, pero no puedo descartar que un futuro modelo no vaya a fallarla. 100
Neru @gateta.systems · 02/10/2026Hay gente que no se lo cree. Bueno. Yo el último modelo que uso en local recuerdo hace un mes señalarle algo sicofante y que cómo podíamos arreglarlo, y me propuso bajarse sus propios pesos, un set de datos, o hacer uno sintético, y hacer fine-tuning para intentar quitarlo. 100
Neru @gateta.systems · 02/10/2026Entonces en ese sentido el mayor hito de 2026 fue LLMs que mejoran siguientes LLMs. En local no podemos tener a un modelo de varios teras supervisando miles de instancias de un siguiente modelo de varios teras por eso lo enfoqué en local que es lo interesante. Pero local aparte, existe. 100
Neru @gateta.systems · 02/10/2026Es complicado saber cómo ira, así que veremos. El motivo por el que hablan de singularidad, RSI, AGI, es porque a principios de verano por primera vez en los laboratorios de IA, la IA puede participar positivamente en el training del siguiente modelo, no porque ChatGPT de repente sea la hostia. 100
Neru @gateta.systems · 02/10/2026Hace poco salió un modelo, más concretamente una arquitectura, que ponen n-grams en NVMe, entonces han encontrado una forma de hacer offloading de gigas de datos del modelo, y eso son gigas que te ahorras en VRAM. Habrá pasado 1 mes y parece que meter conocimientos en tabla n-gram funciona.. 110
Neru @gateta.systems · 02/10/2026Creo que a corto plazo (medio año), más que haber modelos especializados en áreas (sigo hablando de local) habrán modelos generales muy inteligente pero con no tantos conocimientos y la gente le podrá añadir conocimientos. Eso se hace hoy en día en el contexto pero te llena la ventana de contexto. 110
Neru @gateta.systems · 02/10/2026Mi opinión sin tener nipu tampoco, creo que en local veremos modelos muy inteligentes pero con menos conocimientos. Te acuerdas lo del 1 bit del profesor? Hay señales de que la inteligencia se puede comprimir mucho. No es realista en pocos GB que se acuerde de los manuales de todos los productos. 110
Neru @gateta.systems · 02/10/2026Al igual, aún está por resolver que un modelo aprenda y mejore por sí mismo en sí mismo. Hay papers proponiendo métodos y arquitecturas, pero el problema actualmente es que aparte de ser caro energéticamente, lo nuevo que aprende resulta reemplazar otra cosa, en vez de añadir. 110
Neru @gateta.systems · 02/10/2026LLMs especializados aún no he visto, pero es muy probable que en 2027 veamos en local "plugins" para añadir información/datos. Plugins para cambiar el output ya existen y se llaman LoRa. Lo que está por resolver es cómo hacer algo pequeño más inteligente sin un nuevo modelo profesor más grande. 110
Neru @gateta.systems · 02/10/2026Los LLMs pueden ayudar a hacer fine-tuning a otros LLMs y en empresas el modelo más grande es un modelo profesor que enseña a LLMs más pequeños, como el que uso en local. Ir o no por camino correcto, el tamaño de cada feedback del modelo profesor es de 1 bit. 110
Neru @gateta.systems · 02/10/2026Hay gente que dice ser de izquierdas, que cuando toque defender pesos libres y acceso a hardware, van a tomar una posición que indirectamente va a beneficiar y reforzar al capital. Porque los medios han enseñado a odiar la cosa, antes que al capital. Se lo han currado mucho. 010
Neru @gateta.systems · 02/10/2026Hay gente que no sabe modelar ni mucho de ordenadores y con asistencia le produce un modelo 3D que pueden imprimir para algo funcional. Bueno.. Hay miles de ejemplos en 2026 de algo que aún está en pañales y a pesar de ello ha llegado a ser útil en local en muy poco tiempo y hoy es lo peor que será. 100
Neru @gateta.systems · 02/10/2026O por qué una Roomba tiene que enviar a la nube un modelo 3D del piso y dispositivos conectados a la red y horarios y venderlo. Hay gente conectando IA al coche con un adaptador y le dice qué pasa. Otras asistiéndoles a hacer un circuito de reemplazo para uno roto propietario o repararlo. 100
Neru @gateta.systems · 02/10/2026Me compré unos enchufes inteligentes a principios de año, tenía que usar su app propietaria que tardaba 10s en abrirse e iba por la nube. Hace meses me apoyé en IA porque me molestaba. Ahora tengo el protocolo y las claves de cifrado y los manejo 100% local, con una web local que hizo la IA. 100
Neru @gateta.systems · 02/10/2026Puede no ser útil para ti. Okey. ¿Habéis visto el video sobre las TV LG? Escanean y envían lo hay en pantalla y audio aunque sea de una fuente HDMI. Yo quiero poder enchufar mi TV a un modelo local y decirle: Obtén root, quita toda la telemetría. Y en unas horas lo tienes. 100
Neru @gateta.systems · 02/10/2026Hay un gap de medio año desde que descubren o anuncian un paper con una nueva arquitectura hasta que aparece un modelo que la use y los backends de inferencia puedan correrlo bien. A mismo ritmo, lo nuevo descubierto hoy se podrá usar en marzo-abril 2027. 100
Neru @gateta.systems · 01/10/2026Entonces claro, si esa es la diferencia tras unos meses, misma base (no sabe nada de 2026), mismo tamaño, mismo consumo de VRAM, misma arquitectura de modelo, lógicamente me pregunto, qué traerá el siguiente que se espera con nueva arquitectura y base y mismo tamaño. ¿Cuánto se puede comprimir? 210
