People Discussing Charts and Graphs
3 Mac mini M4 bilden ein AI-Backend Cluster
Mini‑Cluster, Maxi‑Potenzial: Wie wir Mac minis per Thunderbolt 4 zum KI‑Superhirn bündeln
Ein Erfahrungsbericht von Big Bricks Media & Daturex GmbH
Warum wir das Experiment gewagt haben
Große Sprachmodelle (Large Language Models, LLMs) lokal auszuführen ist spätestens seit DeepSeek der Traum vieler Entwickler‑Teams – auch von uns. Der Flaschenhals ist dabei schnell angebundener Arbeitsspeicher. Selbst Apples neuer Mac mini M4 Pro kommt zwar auf rund 50 GB/s Speicherbandbreite, ist aber bei 64 GB RAM gedeckelt – zu wenig für Modelle jenseits der 30 B‑Parameter‑Klasse.
Unsere Idee: Drei Mac minis mit je 16-24 GB Unified Memory per Thunderbolt 4 zu einem gemeinsamen Arbeitstier verschmelzen. Möglich macht's Exo, ein noch experimentelles Open‑Source‑Projekt, das RAM und Rechenpower mehrerer Geräte zu einem dynamischen „Super‑Node" zusammenfädelt.
Mac-Clustering 4 Sovereign AI
Das experimentelle AI-Backend mit viel Potenzial und geringen Budget.
RAGFlow 4 AI-based KnowledgeManagement
RAG und AI-Agent plus Workflow-Engine auf einer Plattform.
Ut orci risus accumsan porttitor cursus quis aliquet eget, justo. Sed pretium blandit orci. Ut eu diam at pede suscipit sodales. Aenean lectus elit fermentum non convallis idm sagittis at neque. Nullam mauris orci aliquet iaculis et viverra vitae ligula. Nulla ut felis in purus aliquam imperdiet.
Driving success to your business
Quisque volutpat condimentum velit. Class aptent taciti sociosqu litora torquent per conubia nostra, per inceptos himenaeos. Nam nec ante. Sed lacinia, urna non tincidunt mattis, tortor neque adipiscing diama cursus ipsum ant quis turpis. Nulla facilisi. Ut fringilla. Susp endise potenti. Nunc feugiat tellus consequat imperdiet. Vestibulum sapien proin quam etiam ultrices.
Ut ultrices ultrices enim. Curabitur sit amet mauris. Morbin dui quis est pulvinar ulamcorper. Nulla facilis. Integer lacinia sollicitudin massa. Cras metus. Sed aliquet risus a tortor. Integer id quam. Morbi quisque nisl felis venenatis tristique dignissim in ultrices sit amet augue.
One Comment
Leave A Comment
You must be logged in to post a comment.
Praesent libero cursus ante dapibus diam. Sed nisi. Nulla quis sem at nibh elementum imperdiet. Duis sagittis ipsum. Praesent mauris. Fusce nec tellus sed augue semper porta.