LLM Sizer

Liczy, czy wybrany model językowy zmieści się w pamięci konkretnego Maca i jak szybko będzie na nim działał. Wybierasz maszynę, ilość pamięci, model i stopień kompresji, a narzędzie pokazuje wymaganą pamięć, szacunkową prędkość odpowiedzi oraz to, ile pamięci zostaje po odjęciu tego, co rezerwuje dla siebie macOS. Katalog obejmuje 46 konfiguracji - MacBooki Air i Pro, Mac mini, Mac Studio, iMac, od M1 po najnowsze - plus NVIDIA DGX Spark. Przydaje się najbardziej przy wyborze pamięci w nowym komputerze, bo tej w Macu nie da się później dołożyć. Darmowe, bez zakładania konta.