Pondhouse Data Blog

Vorschaubild des Artikels

Artikel auf EnglischWhat is the VertexAI model garden - a practical example: Deploying Llama 3.1 and Claude 3.5 Sonnet

What Vertex AI Model Garden is and how to use it: Claude 3.5 Sonnet and Llama 3.1 as pay-per-use API services, CLIP on a VM, and Hugging Face models.

10 Min. Lesezeit
Artikel lesen
Vorschaubild des Artikels

Artikel auf EnglischFine-tune OpenAI's GPT-4o mini LLM AI model

Fine-tune GPT-4o mini in the OpenAI dashboard: the JSONL training format, how many examples you need, job settings, costs and calling the model from Python.

8 Min. Lesezeit
Artikel lesen
Vorschaubild des Artikels

Artikel auf EnglischNeo4j LLM Knowledge Graph Builder: How to Create Knowledge Graphs for RAG

Set up the Neo4j LLM Knowledge Graph Builder on AuraDB or Docker, turn a web page into a knowledge graph and query it with GraphRAG in the built-in chat.

10 Min. Lesezeit
Artikel lesen
Vorschaubild des Artikels

Artikel auf EnglischHow to finetune LLMs

Finetune Llama 3 8B on a single GPU with QLoRA, bitsandbytes and TRL: dataset formats, LoRA and training parameters, full Python script and inference.

13 Min. Lesezeit
Artikel lesen
Vorschaubild des Artikels

Artikel auf EnglischUsing AI directly from your database - with PostgreSQL and pgai

Call OpenAI from PostgreSQL with the pgai extension: create embeddings, summaries and content moderation in plain SQL, plus triggers that embed new rows.

10 Min. Lesezeit
Artikel lesen
Vorschaubild des Artikels

Artikel auf EnglischKAN: Is this the end of feedforward networks?

How Kolmogorov-Arnold Networks (KANs) replace MLP weights with learnable splines, what the paper shows on accuracy, and why MLPs aren't done yet.

9 Min. Lesezeit
Artikel lesen
Vorschaubild des Artikels

Artikel auf EnglischLLM Safety with Llama Guard 2

Llama Guard 2 is Meta's 8B model for checking LLM prompts and responses. The main attack vectors, its 11 risk categories and how to run it.

9 Min. Lesezeit
Artikel lesen
Vorschaubild des Artikels

Artikel auf EnglischHow to use AI to create a PowerPoint presentation?

Let GPT-4 write python-pptx code that builds a PowerPoint deck from your company documents via RAG, using your own corporate template.

7 Min. Lesezeit
Artikel lesen
Vorschaubild des Artikels

Artikel auf EnglischVertex AI Agent Builder: What It Is, with a Slack Search Example

What Vertex AI Agent Builder is and what Google calls it today, with a no-code example: index Slack messages and build a Gemini search app.

10 Min. Lesezeit
Artikel lesen
Vorschaubild des Artikels

Artikel auf EnglischBitNet: LLM Quantization at its Extreme

How Microsoft's BitNet trains LLMs with 1-bit and ternary weights, why it beats post-training quantization, and what it saves in memory and energy.

10 Min. Lesezeit
Artikel lesen