Building on AWS 3

14. OpenSearch 기반 Neural Search와 Hybrid Search

머신 러닝(ML)의 검색 관련성 향상이 다양한 비즈니스 사용 사례에 기반한 ML 검색 애플리케이션의 발전을 이끌었습니다. 이에 따라 OpenSearch는 이러한 ML 발전에 적응하며 사용자들이 ML 검색 시스템을 쉽게 구축할 수 있도록 다양한 기능을 출시했습니다.Dense 및 Sparse 검색 지원: OpenSearch Service는 비즈니스 및 기술적 요구사항을 충족하기 위해 Dense 검색과 Sparse 검색을 모두 지원합니다.Hybrid 검색: Hybrid 검색 쿼리(lexical 및 semantic 검색 하위 쿼리 포함) 결과의 점수를 결합하고 정규화하기 위한 정규화 프로세서를 제공합니다.ML 모델 통합: OpenSearch Service는 ML 기반 검색 분야에서 지속적으로 발전하고 있으며, ..

Building on AWS 2025.01.16

13. 전통적 머신러닝(ML)과 생성형 AI 결합

본 게시글에서는 전통적인 머신러닝(ML)과 생성형 AI를 결합하여 고객 지원 시스템을 구축하는 과정을 통해, Amazon SageMaker, Bedrock, Comprehend 등의 AWS 서비스를 활용한 하이브리드 AI 솔루션 개발 방안을 설명하고자 합니다. 1. S3 통합 AWS SageMaker 환경에서 머신러닝 워크플로를 설정하기 위한 초기 단계입니다.AWS S3와 통합: 데이터를 읽거나 쓰기 위해 S3와 통신할 준비를 합니다.SageMaker 사용 준비: SageMaker에서 모델 학습 및 배포를 위한 세션과 IAM 역할을 설정합니다.데이터 전처리 도구 준비: 데이터 전처리를 위한 텍스트 벡터화, 레이블 인코딩, 데이터 분할 라이브러리를 임포트합니다.!pip install s3fsimport b..

Building on AWS 2025.01.16

12. 생성형 AI와 현대적 데이터 아키텍처 통합 및 SQL·API 쿼리 프롬프트 활용

Modern Data Architectures와 Generative AI 통합  본 글에서는 대형 언어 모델(LLM)을 사용하여 AWS 데이터베이스, 데이터 스토어, 및 데이터 웨어하우징 솔루션(예: Amazon Athena)과 상호작용하는 방법을 설명합니다. 본 설명에서 제공하는 방법을 통해 SQL 쿼리를 생성하고 실행하거나 API 엔드포인트에 요청을 보냄으로써 데이터를 처리합니다. 1. 라이브러리 설치 SQLAlchemy는 Python에서 SQL 데이터베이스와 상호작용하기 위한 ORM(Object Relational Mapping) 라이브러리입니다.데이터베이스 연결, SQL 쿼리 작성, 스키마 정의 등을 쉽게 수행할 수 있습니다.LangChain은 대형 언어 모델(LLM)과 외부 데이터 소스를 연결하..

Building on AWS 2025.01.16