Banco a Facundo.

eso es, existe el auto perdonarce y alguien que dijo que la terapia no sirbe, déjenme desirles que si sirve. facundo-elargentino: si uno no se quiere, o si a tenido un fracaso en su vida: y no quiere serrar esas eridas y dar un nuevo...: hace 1 minutos

yo siempre le agradesco a diós por la vida que el cada día me dá: y si me cuesta alcanzar cosas que abeces son difíciles, yo no pierdo las esperanzas, y sigo adelante: asta concretar la meta que me e predispuesto a lograr

En unos años te estudiarán junto a Marco Aurelio, Facundo ;)

por ahí dicen que si te quejas mucho, no llegas a viejo. te morirás de un infarto o un paro.

yo ya lo tengo asumido. quien más lo asume? Pd. soy quejona pero no lo ando expresando por aquí

quien más reconoce que no llegara a viejo?

bueno, es una definición, como se quiera decir, pero nunca voy a estar de acuerdo. tu no te jodes tu propia vida a no ser que seas absolutamente gilipoyas, y conozco muchos que lo son. pero lamentablemente todos, o casi todos aquí tenemos una problemática que nos deja bien dispuestos a ser blanco de ciertos comentarios, discrimianciones, principalmente lavoaraleso a mí al menos son las que más me joden, debilidades, necesidades y demás, que pueden hacer que más de un día, la vida te parezca n gran montón de mierda de tricicloplotus. quejarse y pa mí que es el deporte más relajante y en el que más mierda sacas. no vale para nada,pero con que lo sepas tu... suficiente. quejaos, pero con arte, por favor. Los que dicen que la vida es una mierda: ellos son las mierdas que hacen mierda s

faltan pocos minutos para que pasen 2 cosas.

1. para tomar mis pastillas para la epilepsia.
2. para poner mi radio y explotar los parlantes escuchando ¡OID MORTALES! el grito sagrado. puro rock argento

Pegarle a un saco también te deja relajado, sobretodo cuando alguien te va guiando el entrenamiento hasta dejarte sin poder mover un músculo. Luego duermes como un bebé.

Editado.

me sumo, ese ejercicio es agotador, pero muy satisfactorio

como correr modelos de inteligencia artificial de forma local

Bienvenides todes a este su tutorial de ollama y modelos de IA en local.
esta vez no quiero usar IIA para escribir, entonces tendrán esa sensación humana, aunque comienzo a dudarlo porque ciertos
individuos ya me han recalcado que tengo la estructura gramatical de una, aunque, lastimosamente para mi, no es así, aún.
Pero vamos al lío.

Ollama

¿Qué es ollama? la amigable vaquita es un programa software libre que nos permite ejecutar llm (long languaje model) o algunos otros tipos de redes neuronales de forma local. Es decir, sin enviar datos a servidores externos y sin necesidad de internet.

¿Qué necesitamos?

Iremos desde el requisito más indispensable, al menos. Los opcionales o los que tengan una nota, estarán marcados con un (?).

• Tener instalado ollama para su sistema operativo, se descarga desde. https://ollama.com/download
• Una targeta gráfica dedicada (?): Es lo más recomendable para el funcionamiento de los modelos.
• 12 gb de ram: Esto es casi indispensable y aún más si no se cuenta con una tarjeta gráfica dedicada.
• una CPU de mínimo 4 núcleos: Lo mismo, se recomienda que sean mínimo 8 hilos porque en caso de no tener gráfica dedicada tirará de la ram y de la CPU para hacer inferencia.

¿cómo se hace?

Ya que tenemos ollama descargado, iniciamos su instalación.
no voy a explicar como se instala, si quieres usar modelos en local asumiremos que conoces lo básico de tu sistema operativo y lo más indispensable de la línea de comandos.
luego de que termine de instalarse ollama se desaparecerá la ventana y tendremos el ícono de ollama en la bandeja del sistema.
Ahora sí

¿Cómo descargar modelos?

en la web de ollama tentendremos los modelos open source disponibles.
antes de iniciar a descargar, vamos a hablar de modelos.
¿Qué son esas cosas de 1b, 7b y todo eso?
Son los parámetros de entrenamiento. la b al lado del número quiere decir billones de parámetros. 1b es un billón 7b son 7 billones y así susesibamente.
esto quiere decir que a más número de parámetros más potencia de cómputo requiere.
Vamos a hacer la instalación de un modelo chiquito de google, gema.

1. vamos al cuadro de búsqueda en ollama.com
2. buscamos gema
3. clicleamos en el primer resultado de encabezado nivel 2 con el nombre del modelo a descargar.
4. con la b buscamos el botón que nos dejará elejir la versión de parámetros, en este caso 7b.
5. Daremos enter, y escape. luego buscaremos el que nuestra máquina soporte, en mi caso, el de 2b y pulsaremos enter.
6. con la e buscaremos el cuadro de texto que nos dará la instrucción de ollama, que será algo así:
ollama run >nombre del modelo:numero de paŕ́ametros b>
Debajo tendremos un botón sin etiqueta y daremos enter en el para copiarlo al portapapeles.

7. abriremos un cmd o powershell
8. pegaremos el comando, en mi caso: ollama run gemma:2b y daremos enter

Nota: si les llega a dar error, recarguen el servidor de ollama con el comando:
ollama server
Si no funciona, abran el menú inicio, busquen ollama y pulsen enter; luego cierren y abran el terminal y corran el comando de nuevo.
Debería a iniciar la descarga.

Activando el modelo

Luego de que termine la descarga pueden pasar 2 cosas.

1. que entren a la terminal del modelo, que se pueden dar cuenta por los > que les aparezcan.
2. que no entren y vuelvan a la terminal normal de su sistema operativo.
Para el segundo caso, prueben correr el comando ollama run de nuevo y si bien le les va, abrirá la terminal.
Si no... el modelo iniciará la descarga otra vez.
Esto no se por que ocurra, pero ocurre. me pasó ya 2 veces y es mejor dejar nota.

interactuando con el modelo

Si ya estamos en la terminal, no hace falta más que empezar a interactuar con el modelo.
>>> hola! quién eres?
Soy un modelo artificial, creado por Google. Soy un chat bot que puede ayudarte con una variedad de tareas, como
responder preguntas, generar contenido, y proporcionar información.

>>> Send a message (/? for help)
¡Listo! tendremos un modelo de inteligencia artificial corriendo en nuestro sistema.

comandos útiles

• Borar un modelo: ollama rm <nombre del modelo>
• Listar los modelos descargados: ollama list
• correr un modelo: ollama run <nombre del modelo>
• Cerrar el chat con el modelo: ctr + d
• Cortar el flujo de respuesta: ctrl + c
• borrar los datos y la conversación hasta ese momento. /clear
• Setear variables o información: /set <parámetro>
• ver la ayuda de ollama: /help

notas importantes.

1. Si no tienes más de 8gb de ram sin tarjeta dedicada, no pierdas el tiempo, no te funcionará.
2. Si tiras de pura ram para ejecutar los modelos, se paciente, tardarán algo en responder, sobre todo los de grandes mayores a 7b.
3. No esperes una experiencia fluída si no tienes los recursos de cómputo necesarios.
4. No esperes que sean de la misma calidad de los modelos comerciales, ni que estén adaptados a un chatbot común y corriente. Tendrás que familiarizarte con prompt ingeniéerin mucho más profundo porque su comprendimiento de lenguaje natural no está tan pulido, esto para los modelos chiquitos como llama 1b, r1 1b, etc.
5. dame más uno, no seas hijo de puta.

Entendí "cómo coger modelos de inteligencia artificial", estoy totalmente roto por dentro.
Pero no seas boludo, creá un hilo para esto, acá se te perderá enseguida.

medió risa cuando dijo todes

cierto, lo haré.

me encanta esto de bajarte todo en un archivito y sacar la pista que quieres. luego traduces, pegas, y todo cae en su sitio como si de un buen polvo se tratara. más trabajos así, por favor... hasta bajaría el precio... no, mentira, que la gente está muy acostumbrada a que se lo den todito en la mano y sin soltar un duro. cada día los conceptos de las webs con las pelis puestas para los cegatos me parecen un invento más horrible, siendo este mundo un mundo donde todos podemos ganar un poquito de dinero y dedicarla a nuestros caprichos, y si, los videntes pagan por muchos servicios, porqué nosotros no?

Vayan a privacidad de WhatsApp y no permitan que les agreguen a grupos, hay un tremendo fallo de seguridad.

Qué fallo o q pasó.

totalmente.
facundo-elargentino: sos mala onda: jaj: hace aproximadamente 3 horas 18 de 30