전체 글 (252) 썸네일형 리스트형 LLM 프롬프트 인젝션 이해하기 이번 글에서는 'LLM 프롬프트 인젝션 이해하기'를 다룬다. 프롬프트 인젝션은 외부 입력이 모델의 원래 지시와 도구 사용을 의도하지 않은 방향으로 바꾸도록 유도하는 보안 문제다.기본 개념외부 문서를 모델에 전달할 때는 시스템 지시와 사용자 요청, 검색된 데이터가 서로 다른 역할이라는 점을 구조적으로 구분하는 것이 좋다. 단순 문자열 구분자만으로 완전한 방어가 되지는 않지만 정책 엔진과 결합하면 위험한 명령 상속을 줄일 수 있다.프롬프트 인젝션 오류가 실제 시스템 변경으로 이어지는 구조라면 별도 권한 검사가 필요하다. 읽기 기능과 변경 기능을 분리하면 잘못된 판단의 피해를 줄일 수 있다.프롬프트 인젝션 고위험 작업은 사용자 승인 단계를 추가하는 편이 안전하다. 모델 판단만으로 삭제나 결제 같은 작업이 실행.. Blue-Green 배포 구조 이해하기 이번 글에서는 'Blue-Green 배포 구조 이해하기'를 다룬다. Blue-Green 배포는 기존 환경과 새 환경을 동시에 준비한 뒤 트래픽을 전환해 배포 위험과 롤백 시간을 줄이는 방식이다.기본 개념Blue-Green 배포 종료 후에는 지연과 실패 원인을 정리해 다음 일정에 반영한다. 개선 항목을 기록만 하고 담당자를 정하지 않으면 실제 변경으로 이어지기 어렵다.Blue-Green 배포 사후 검토에서는 기술 문제뿐 아니라 절차와 연락 체계도 함께 본다. 다음 실행에서 같은 문제가 반복되지 않는지가 최종 기준이다.Blue-Green 배포 실행 전에는 필요한 계정과 대상 시스템, 작업 순서를 실제 환경과 맞춰 확인한다. 문서가 있어도 계정이 만료됐거나 서버 정보가 오래됐으면 긴급 상황에서 사용할 수 없다.. Terraform State 관리 원칙 이번 글에서는 'Terraform State 관리 원칙'을 다룬다. Terraform State는 코드와 실제 인프라 리소스를 연결하는 핵심 데이터이므로 공동 작업과 복구를 고려해 안전하게 관리해야 한다.핵심 개념과 기본 구조Terraform State는 코드의 리소스 주소와 실제 인프라 객체를 연결하고 현재 속성을 추적하는 핵심 데이터다. State가 없거나 실제 환경과 크게 어긋나면 plan 결과가 예상과 달라질 수 있다.State를 단순 캐시 파일처럼 취급하면 안 된다.여러 사람이 같은 인프라를 관리한다면 로컬 State보다 원격 Backend를 사용하는 편이 안전하다. 중앙 저장과 버전 관리, 접근 제어를 적용할 수 있고 지원하는 Backend에서는 잠금 기능도 사용할 수 있다.팀원이 각자 다른 .. Azure Availability Set과 Zone 차이 이번 글에서는 'Azure Availability Set과 Zone 차이'를 다룬다. Availability Set과 Availability Zone은 모두 Azure VM 가용성을 높이지만 보호하는 물리 장애 범위와 설계 방식이 다르다.기본 개념Availability Set은 같은 Azure 데이터센터 안에서 VM을 Fault Domain과 Update Domain으로 분산해 호스트·랙 장애와 계획된 유지보수 영향을 줄이는 방식이다. 여러 VM을 하나의 세트로 구성해야 의미가 있다.신규 설계에서는 사용 가능한 리전과 서비스 특성을 함께 확인한다.Availability Zone은 하나의 Azure Region 안에서 물리적으로 분리된 데이터센터 영역을 사용한다. Availability Set보다 더 넓은.. AWS EBS gp3와 io2 차이 이번 글에서는 'AWS EBS gp3와 io2 차이'를 다룬다. AWS EBS gp3와 io2는 모두 SSD 블록 스토리지지만 성능 프로비저닝 방식과 목표 워크로드, 비용 구조가 다르다.먼저 이해할 내용gp3는 용량과 별도로 IOPS와 처리량을 설정할 수 있는 범용 SSD EBS 유형이다. gp2처럼 용량 증가에 따라 기본 IOPS를 확보해야 하는 구조와 달라 필요한 성능만 조정하기 쉽다.기본 제공 성능과 추가 프로비저닝 비용을 함께 계산한다.io2는 높은 IOPS와 내구성, 일관된 지연 특성이 중요한 워크로드를 위한 Provisioned IOPS SSD 계열이다. 대규모 데이터베이스처럼 스토리지 성능 요구가 명확한 시스템에서 검토할 수 있다.실제 지원 IOPS와 용량 비율은 AWS 최신 사양을 기준으로.. NVIDIA MIG로 GPU 나누기 이번 글에서는 'NVIDIA MIG로 GPU 나누기'를 다룬다. NVIDIA MIG는 하나의 지원 GPU를 여러 독립 GPU 인스턴스로 분할해 여러 워크로드가 자원을 나눠 사용할 수 있게 한다.핵심 개념과 기본 구조NVIDIA MIG는 지원 GPU의 연산 자원과 메모리를 여러 독립 GPU 인스턴스로 분할하는 기능이다. 하나의 GPU를 여러 워크로드가 공유하면서도 단순 프로세스 공유보다 강한 자원 격리를 제공할 수 있다.모든 NVIDIA GPU가 MIG를 지원하는 것은 아니므로 모델을 먼저 확인해야 한다.MIG 프로파일은 GPU compute slice와 메모리 크기의 조합으로 구성된다. 작은 프로파일을 많이 만들면 동시 사용자는 늘지만 개별 모델이 사용할 수 있는 VRAM과 연산량은 줄어든다.모델 크기와.. PortFast와 BPDU Guard 함께 쓰는 이유 이번 글에서는 'PortFast와 BPDU Guard 함께 쓰는 이유'를 다룬다. PortFast와 BPDU Guard는 단말용 액세스 포트를 빠르게 활성화하면서 잘못 연결된 스위치로 인한 루프 위험을 줄이는 조합이다.먼저 이해할 내용BPDU Filter는 BPDU 송수신을 제한하는 기능으로 BPDU Guard와 목적이 다르다. 잘못 사용하면 STP가 루프를 감지할 수 없게 만들 수 있으므로 단말 포트 보호에는 일반적으로 BPDU Guard와 역할을 구분해 적용해야 한다.액세스 포트에 실제로 다른 관리형 스위치를 연결해야 하는 설계라면 PortFast와 BPDU Guard 기본 템플릿을 그대로 적용하면 안 된다. 해당 링크가 STP topology에 참여하도록 포트 역할을 다시 설계한다.err-disab.. Dell iDRAC Lifecycle Controller 활용법 이번 글에서는 'Dell iDRAC Lifecycle Controller 활용법'을 다룬다. Dell Lifecycle Controller는 서버 펌웨어와 하드웨어 구성, OS 배포 같은 수명주기 작업을 원격 관리하는 기능이다.기본 개념Lifecycle Controller가 온라인 Repository에서 펌웨어를 가져오는 구조라면 DNS와 프록시, 방화벽 때문에 업데이트가 실패할 수 있다. Job Queue 오류와 네트워크 접근 문제를 분리해 확인해야 불필요한 재부팅을 줄일 수 있다.Dell Lifecycle Controller는 서버의 펌웨어 업데이트와 하드웨어 구성, OS 배포 같은 관리 작업을 지원하는 기능이다. iDRAC과 연계해 원격 관리에서 자주 사용된다.서버 모델과 iDRAC 세대에 따라 메.. 이전 1 2 3 4 ··· 32 다음