생성형 AI(3)
-
엔비디아 저렴한 생성형 AI 슈퍼컴퓨터 공개
엔비디아 저렴한 생성형 AI 슈퍼컴퓨터 Jetson Orin Nano Super 공개 제품 개요 및 가격- Jetson Orin Nano Super Developer Kit 출시.- 가격: 499달러 → 249달러로 인하.- 대상: AI 개발자, 취미인, 학생.성능 향상- 생성형 AI 성능 최대 1.7배 향상.- 성능: 67 INT8 TOPS (70% 증가), 메모리 대역폭 102GB/s (50% 증가).- 다양한 AI 모델 및 변압기 기반 컴퓨터 비전에 최적화.주요 기술 및 특징- SoM(System on Module):- NVIDIA Ampere 아키텍처 GPU, 텐서 코어, 6코어 Arm CPU.- 최대 4개의 카메라 지원, 고해상도 및 고프레임 속도 제공.소프트웨어 업데이트- 기존 Jetson O..
2024.12.18 -
Apple, Broadcom 과 협력하여 AI 칩 개발 예정
애플(Apple)이 인공지능(AI) 처리에 특화된 첫 번째 서버용 칩을 개발 중발트라(Baltra) 라는 코드명, 2026년 대량 생산이 목표입니다.애플의 새로운 생성형 AI 기능의 컴퓨팅 수요를 충족하기 위한 것애플 실리콘 팀이 주도적으로 개발 중주요 내용 요약: 1. AI 서버 칩 개발 배경 • 애플은 현재 iPhone 및 Mac에 생성형 AI 기능(Apple Intelligence)을 점진적으로 도입 중 • 간단한 AI 요청은 기기 자체에서 처리, 복잡한 요청은 클라우드 서버의 고성능 칩으로 처리 • 기존 칩은 AI 처리를 위해 설계되지 않아 속도와 에너지 효율 면에서 Nvidia 등 경쟁사 칩에 비해 뒤처짐 • 이를 개선하기 위해 AI 전용 칩 개발을 추진 2. Broadcom과의 협력 • 애플은..
2024.12.12 -
AI 성장에 커져가는 전력산업
전 세계적으로 AI 사용이 확대하면 데이터센터 건설의 증가가 기대되고 이에 따른 에너지 사용량이 증가할 전망이다. ‘챗(Chat) GPT’와 같은 생성형 AI 서비스와 기술 등을 사용하면 구글 등 일반 웹 서비스를 이용했을 때보다 전력을 10배 이상 소모하고, 이미지 생성 AI 기술 이용은 텍스트 생성보다 60배의 전력을 소모하는 것으로 알려졌다. 특히, 데이터센터 전력은 밀도 높은 전력을 요구하기 때문에 좁은 면적에서 많은 전력을 생산하는 전력원이 필요하다이런 점에서 원전에 대한 최근 관심리 집중되고 있으며, 최근 아마존의 AWS(아마존웹서비스)는 원자력으로 100% 가동되는 미국의 탈렌 "큐뮬러스 데이터센터"를 6억5000만달러에 인수했다 다른 글로벌 IT 기업들도 앞다퉈 원자력 발전소와 전력 공급망..
2024.03.28