SemiAnalysis는 AMD MI300X와 Nvidia H100/H200 GPU를 대상으로 약 5개월간 독립적인 분석과 벤치마킹을 진행했습니다. 본 보고서는 GPU 훈련 성능, 사용자 경험, 총소유비용(TCO) 등을 비교하고, AMD의 소프트웨어 문제점을 지적하며 개선 방안을 제안합니다.1. 성능 격차GEMM 성능: H100/H200은 각각 720, 1,280 TFLOP/s를 기록했으나, MI300X는 620, 990 TFLOP/s로 뒤처짐.훈련 성능: MI300X는 작은 모델(GPT 1.5B)과 비표준적 주의(attention) 구조(예: Mistral 7B)에서 성능이 저하됨.FP8 훈련: AMD는 FP8 성능 향상을 위해 노력했으나, 여전히 H100/H200에 뒤처짐.2. 소프트웨어 문제AMD의..

삼정 KPMG의 보고서 입니다.반도체 산업에 대한 이해와 깊이를 더할 수 있을 겁니다.

변곡점 온 AI ASIC의 시대 + AI 데이터센터의 HW, SW 모두 품은 브로드컴주요 재무 실적:- 2024 회계연도 연결 매출: 전년 대비 44% 증가한 516억 달러 (VMware 제외 시 9% 성장)- Q4 연결 매출: 전년 대비 51% 증가한 141억 달러 (VMware 제외 시 11% 성장)- Q4 영업이익: 88억 달러 (전년 대비 53% 증가), 영업이익률 63%주요 사업 현황:1) VMware 통합- VMware 인수 후 통합이 대부분 완료- 운영 마진이 2024년 말 70%까지 상승- 초기 목표였던 85억 달러의 조정 EBITDA를 3년 목표보다 빨리 달성할 전망2) AI 사업 성과- AI 관련 매출이 전년 대비 220% 증가한 122억 달러 기록 (반도체 매출의 41% 차지)- 20..

인공지능(AI) 경쟁의 핵심 기술인 AI반도체 분야에서 한국이 미국, 중국에 이어 세계 3위의 기술력을 가졌다는 정부 조사결과가 나왔다.과학기술정보통신부는 6일 국가과학기술자문회의 산하 글로벌 연구개발(R&D) 특별위원회 제4회 회의를 열고 ‘글로벌 R&D 전략지도’를 발표했다. 전략지도는 논문, 특허, 정성평가 등을 반영해 전략기술별 국가 순위를 정리한 자료다.전략지도에 따르면 AI반도체를 포함하는 ‘고성능·저전력 AI반도체’ 분야에서 한국은 61.7점으로 미국(96.7점), 중국(71.6점)에 이어 3위를 기록했다.한국은 피인용 횟수 상위 10% 논문이 152건으로 세계 3위, 특허는 248건으로 일본에 이어 4위를 기록했다. 미국은 논문 767건, 특허 4104건으로 압도적 1위를 차지했다.한국은 ..