작성자: J1N, Techub News
소개: 에포크 1~2
Kuzco는 LLM 대형 언어 모델 서비스를 전문으로 하는 컴퓨팅 파워 마이닝 네트워크입니다. 올해 9월 9일 뉴욕에서 출시된 CSX(Crypto Startup Accelerator) 가을 액셀러레이터 프로그램에 a16z가 선정되었습니다. a16z USD 투자로 최소 500,000 달러를 투자하고 a16z 운영팀의 지도와 지원을 받게 됩니다. 이제 액셀러레이터 프로그램이 종료되었습니다.
11월 16일, Kuzco는 1단계(Epoch One) 인센티브 계획이 2024년 11월 18일에 종료된다고 발표했습니다 . 모든 작업이 중단되고 데이터 스냅샷이 영구 저장되며 최종 포인트 순위는 새로운 순위 목록에 발표됩니다. .
공식 공개에 따르면 Epoch One은 2024년 3월 6일에 출시되었으며 최대 장치 수가 8,000개를 초과했습니다. 네트워크는 Meta가 출시한 8B 사양 Llama-3 AI 대형 언어 모델을 실행하며 총 추론 수는 1조 개가 넘습니다. 토큰.
그리고 앞으로 몇 주 안에 자금 조달 정보와 프로젝트 개발 로드맵이 공개될 예정이며, 2단계(Epoch Two) 인센티브 프로그램이 12월 9일에 개시될 것이라고 발표했습니다. Epoch 2는 더 높은 NVIDIA 하드웨어 처리량과 같은 몇 가지 새로운 기능을 가져올 것입니다. 신뢰성, 사용자가 A100 및 H100과 같은 최고의 컴퓨팅 장비에 액세스하도록 장려하고 더 많은 이미지 생성 및 다중 모드 언어 모델 VLM을 지원합니다.
에포크 2 출시를 준비하려면 아직 보름이 남았습니다. 이 기사에서는 다음 사항에 대해 설명합니다.
-
개인 채굴의 실천과 결과, 독립형에서 클러스터로의 전환을 공유합니다.
-
연구와 실습을 통해 자금을 조달하고, 고사양 기계를 제작하는 전 과정을 시연합니다.
-
하드웨어 구성과 프로젝트 요구 사항의 일치에 대해 논의하고 투자자의 일반적인 질문에 답하십시오.
에포크 원 리뷰: 1인 싸움
구성
작성자의 구성 목록에는 RTX 시리즈 그래픽 카드 2060, 2070S, 3080, 4060, 4060Ti와 4070S 4개, Apple M2 및 M3 장치 2개가 포함되어 있습니다. 이러한 장치는 여러 호스트, 노트북 및 전용 채굴 장비에 분산되어 있습니다.
비용
이 그래픽 카드는 원래 작가가 매년 게임용으로 구입한 것이며 채굴을 위해 특별히 구입한 것은 아니라는 점을 언급할 가치가 있습니다. 따라서 하드웨어 구입 비용은 비용 계산에 포함되지 않으며, 채굴기의 실제 전기 비용만 계산됩니다. 첫 번째 기사 ” A16z “Disciple” Kuzco 실용 가이드: AI 컴퓨팅 파워 마이닝을 효율적으로 수행하는 방법은 다음과 같습니다. 》조립된 광산 기계의 예.
채굴기 구성:
-
메인보드: z490 (산업용 보드는 추후 교체 예정)
-
CPU: 10세대 I9
-
그래픽 카드: 2060, 2070s, 3080, 4060ti, 4070s
손으로 문지르는 채굴기
아래 사진은 10월과 11월 채굴기에서 소모된 전력량을 나타낸 것으로 총 564kWh를 획득하였으며, 획득한 KZO 포인트는 약 6억 포인트입니다. 모든 기계를 합치면 약 11억 포인트가 됩니다. 구체적인 전기 비용은 해당 지역의 전기 요금을 기준으로 계산해야 합니다. 이는 참고용일 뿐입니다.
사진 맨 오른쪽은 총 10억 포인트를 획득한 모습입니다.
제2시대 준비: 클러스터 배포
첫 번째 기사에서 저자가 공유한 내용과 장비 조립, 디버깅, 환경 배포에 직접 참여하는 풍부한 운영 및 유지 관리 경험을 바탕으로 저자는 일정 금액의 재정적 지원을 성공적으로 확보하고 고성능 마이닝 머신을 조립하는 데 투자했습니다. 더욱 더 컴퓨팅 성능 규모와 운영 효율성을 향상시킵니다.
개인 병사부터 클러스터 배치까지
고사양 기계의 구성 및 선택 로직
저자의 Epoch One에서의 실제 경험이 결합되어 마더보드, CPU, 그래픽 카드, 전원 공급 장치, 플랫폼 및 네트워크 구성이 완전히 최적화되었으며 보다 적합한 하드웨어 조합이 선택되었습니다. 이는 안정성, 보안 및 효율성을 향상시켰을 뿐만 아니라 전반적인 운영 및 하드웨어 선택 시 중고 시장의 유동성에 더 많은 관심을 기울이십시오. 이 전략은 실제 투자 비용을 효과적으로 줄이고 후속 참가자에게 더 높은 비용 효율적인 옵션을 제공할 수 있습니다.
마더보드
저자는 주로 성능, 안정성, 비용 효율성을 종합적으로 고려하여 주류 B85 대신 산업용 마더보드를 선택했습니다.
성능 측면에서 Kuzco의 Llama-3 모델을 실행하려면 여러 Docker 프로세스를 시작해야 하며 이러한 프로세스를 병렬로 실행하면 많은 CPU 리소스를 차지하고 높은 CPU 성능이 필요하며 B85 호환 CPU는 이러한 요구를 충족할 수 없습니다.
또한 산업용 마더보드는 장기적으로 안정적인 작동, 고온 저항 및 제조업체 보증 측면에서 확실한 이점을 갖고 있으며 동시에 중고 시장에서 더 강력한 유동성을 갖추고 있으므로 의심할 여지 없이 최선의 선택입니다.
그래픽 카드
저자는 주로 다음과 같은 점을 토대로 4070S를 메인 그래픽 카드로 선택했습니다.
AI 컴퓨팅 성능의 장점: 30 시리즈 그래픽 카드와 비교하여 AI 컴퓨팅에서 40 시리즈 그래픽 카드의 성능 향상은 게임 성능 향상보다 훨씬 큽니다. 핵심적인 이유는 AI 컴퓨팅 성능이 주로 그래픽 카드의 CUDA 코어 수에 따라 달라지며, 40 시리즈 그래픽 카드는 30 시리즈 그래픽 카드에 비해 훨씬 더 많은 CUDA 코어를 가지고 있기 때문입니다.
에너지 효율성 이점 : 저자는 다양한 GPU에 대한 세부 테스트를 수행하고 각 토큰의 평균 전력 소비를 계산했습니다.
-
4060Ti(160W): 0.125 토큰/W
-
3080(330W): 0.22 토큰/W
-
4090(450W): 0.26 토큰/W
-
4070S(220W): 0.38 토큰/W
테스트 결과에 따르면 4070S는 성능과 전력 소비 사이의 균형 측면에서 가장 우수한 성능을 발휘하므로 에너지 효율이 높아 전기 비용이 직접적으로 절감되므로 가장 비용 효과적인 선택입니다.
중고 시장의 가격 및 유동성: 4070S는 중고급 그래픽 카드로서 중고 시장에서 높은 유동성과 가치 유지력을 갖추고 있어 장치 보유 비용을 더욱 절감하고 후속 조치에 대한 유연성을 제공합니다. 하드웨어 업그레이드.
CPU
앞서 언급했듯이 Kuzco의 Llama-3는 실행 시 여러 Docker를 시작해야 하며, 이는 매우 많은 CPU 리소스를 소비합니다. 특히 여러 카드에서 실행하는 경우 CPU 사용량이 80%-90%까지 높을 수 있습니다. 따라서 멀티 코어 및 멀티 스레드 처리 기능이 특히 중요합니다. 고성능, 멀티스레드 및 안정적인 CPU는 멀티태스킹 작업을 효과적으로 지원할 뿐만 아니라 전체 채굴 프로세스의 안정성과 효율성을 보장합니다.
13세대 i5는 그래픽 카드를 풀로드로 실행할 때 70% 이상의 사용량에 도달할 수 있습니다.
-
네트워크 환경
소프트 루트는 그림의 사각형 상자입니다.
채굴에는 네트워크 환경도 중요합니다. 고성능 그래픽 카드를 구성하더라도 네트워크가 최적화되지 않으면 컴퓨팅 성능에 심각한 영향을 미치게 됩니다. 저자의 실제 측정에 따르면, 네트워크 속도가 부족하면 컴퓨팅 성능이 30%까지 떨어질 수 있으며, 품질이 낮은 네트워크 노드는 직접적으로 Kuzco 네트워크에 연결할 수 없게 될 수 있습니다. 이 두 지점 모두 채굴에 적합하지 않습니다. 이러한 문제를 해결하기 위해 저자는 소프트 라우팅 솔루션을 채택했습니다. 이 방법은 구성이 쉬울 뿐만 아니라 설정을 완료한 후 수동 개입 없이 효율적으로 실행할 수 있으며, 이론적으로 무제한 장치 액세스도 지원할 수 있습니다. 구체적인 작동 방법에 대해서는 독자의 필요에 따라 관련 정보를 참고하는 것이 좋습니다.
전원 공급 장치
클래식 만리장성 2000w 핵폭탄 전원 공급 장치
전원 공급 장치를 선택할 때 피크 전력 소비 문제에 특별한 주의를 기울여야 합니다. 이것이 7샷 4070S의 정격 소비 전력이 1540W에 불과함에도 불구하고 저자가 여전히 듀얼 2000W 전원 공급 장치를 선택한 이유입니다. 총 출력은 4000W입니다. 이는 자원 낭비는 아니지만 장비의 안정성과 안전성을 고려한 조치입니다.
그래픽 카드는 작동 중에 최대 전력 소비를 경험합니다. 즉, 실제 전력 소비는 특정 순간에 정격 전력 소비의 1.5배 이상에 도달한 다음 정상 수준으로 떨어질 수 있습니다. 전원 공급 장치가 이 피크를 처리할 만큼 강력하지 않으면 전원 공급 장치의 강제 종료 메커니즘이 작동하고 그래픽 카드가 손상될 수도 있습니다. 이는 채굴기의 정상적인 작동에 치명적인 위협이 됩니다.
4070s 구동 전력 소비 성능
4070S를 예로 들면, 정격 소비전력은 220W이지만 최대 소비전력은 400W를 초과할 수 있습니다. 7개의 그래픽 카드의 총 피크 전력 소비는 3000W 이상에 도달할 수 있으므로 듀얼 2000W 전원 공급 장치가 시스템의 안정적인 작동을 보장하도록 구성됩니다. 여러 개의 4090을 구성하는 사용자는 특별한 주의가 필요합니다. 단일 4090의 정격 전력 소비는 450W이며 최대 전력 소비는 770W까지 높을 수 있습니다. 다중 카드의 경우 2개의 전원 공급 장치만으로는 수요를 충족하지 못할 수 있습니다. 이 경우 시스템 안정성을 보장하기 위해 일반적으로 3개의 전원 공급 장치가 필요합니다.
4090 실행 전력 소비 성능
다시 채우다
BIOS 설정, 하드웨어 호환성, 원격 관리 등의 문제에 대해서는 여기서 너무 자세히 설명하지 않겠습니다. 인터넷에는 참고할 수 있는 무료 튜토리얼이 많이 있습니다. 대부분의 문제는 튜토리얼을 따르면 해결될 수 있습니다. 자신의 하드웨어 구성과 요구 사항에 따라 대상 검토 및 처리를 수행하는 것이 좋습니다. 이는 간단하고 효율적입니다.
위험과 이점
모두가 가장 걱정하는 질문에 답해 보세요. 매일 얼마나 많은 돈을 채굴할 수 있나요? 솔직히 위험과 보상은 항상 공존하기 때문에 이 질문에 대한 명확한 답은 없습니다. 저는 명확한 관점을 공유할 수 있습니다. 통화권이든 전통 산업이든 어떤 프로젝트에서 일일 수입을 정확하게 계산할 수 있다면 아마도 많은 돈을 벌 수 없을 것입니다. 극도로 낮은 전력 비용이나 매우 저렴한 채굴 장비 등 특정 독점 자원을 보유하지 않는 한 수익에 이점을 누릴 수 있습니다. 그러나 모든 사람이 그러한 자원을 갖고 있는 것은 아닙니다.
저자는 투자 위험과 비용 압박을 줄이기 위해 유동성이 좋은 장비를 정확하게 선택합니다. Kuzco 채굴을 예로 들면, 비용은 주로 하드웨어 및 전기 비용의 감가상각에 집중되므로 최대 손실은 이러한 고정 비용으로 제한됩니다. 저렴한 비용으로 참여가 이루어지지 않으면 모든 투자 결정은 의미를 잃습니다. 헤드마이닝의 특성상 명확한 이익 기대가 없다는 점을 강조할 필요가 있지만, 여기에도 헤드마이닝의 잠재력이 있습니다.
주관적인 판단으로 볼 때 이 트랙은 시장 전망이 매우 큽니다. 한편으로는 Kuzco가 a16z로부터 투자 지원을 받은 반면, LLM 대형 언어 모델에 대한 수요가 급속히 확대되고 있습니다. 생각해 보세요. LLM을 사용하지 않는 사람은 거의 없습니다. 그렇죠? OpenAI의 ChatGPT, Meta의 Llama, Musk의 XAI 등 이들 플랫폼은 고액의 자금 조달을 받아 이 산업의 성장 잠재력을 분명히 보여주었습니다.
일반인이 AI 산업에 직접 참여하기는 쉽지 않다. 한편으로는 AI 기술의 문턱이 높은 반면, AI 모델을 훈련하려면 엄청난 양의 자원과 자금이 필요하며 대부분의 사람들은 그러한 비용을 감당할 수 없습니다. Kuzco를 통해 AI 컴퓨팅 파워 네트워크에 가입함으로써 일반 사람들은 통제 가능한 비용으로 이 고성장 분야에 쉽게 참여하고 AI 컴퓨팅 파워에 기여하는 동시에 수익을 얻을 수 있습니다.
게다가 비트코인 가격은 2022년 16,000달러에서 현재 최고치까지 상승해 현재 10만 달러를 넘을 예정이고, 그 이면에는 엄청난 되돌림 위험이 도사리고 있습니다. AI 프로젝트의 토큰을 직접 구매하기로 선택한 경우에도 유사한 높은 변동성 위험에 직면하게 됩니다. 이에 반해 AI 컴퓨팅 파워 네트워크에 참여하는 것은 보다 강력한 선택이다. 비용을 명확하게 통제할 수 있을 뿐만 아니라 상대적으로 낮은 리스크로 AI 산업의 고속 성장 트랙에 진입할 수도 있다. 이는 현재 환경에서 일반 사람들이 AI 분야에 진입하는 실용적인 방법 중 하나입니다.