Serverless

Serverless 上的長連線:CareerWise 用 SSE 傳送 AI 的回答

AI 對話往往是幾百字,一次傳完要等很久。本文探討 CareerWise 的串流架構:先看 server 端怎麼用 async generator 把 LLM 逐個 token 吐出的回答,依型別轉成 text、status、goal_decomposed 等結構化事件,再以 data: ... 寫進 ReadableStream;接著看 client 端怎麼用 fetch + Reader 接到這條流,用 buffer 把被截斷的 chunk 組成完整事件、逐段累進畫面;最後探討為什麼在 serverless 的 AI 對話場景裡,純 HTTP、可帶認證 header、斷線重連成本低的 SSE,是比 WebSocket 更務實的選擇。

Server-Sent Events SSE WebSocket CareerWise Agentic AI Serverless Next.js AI AI Engineering Firebase Firebase Hosting LLM Streaming LLM · 留言


利用 Serverless Framework 建置和部署專案

本文說明如何利用 Serverless Framework 建立一個經由 RESTful API 讀取 DynamoDB 資料庫的專案。

Serverless Framework DynamoDB Lambda API Gateway CloudFormation SAM IAM Serverless AWS Amazon Web Services RESTful API Postman · 留言


DynamoDB Pagination:利用 LastEvaluatedKey 與 ExclusiveStartKey 實作分頁

如何為 DynamoDB 做分頁呢?本文主要分三個部份:(1) 為什麼要做分頁?;(2) 利用 LastEvaluatedKey 與 ExclusiveStartKey 實作分頁;(3) 範例。

DynamoDB Lambda API Gateway Serverless AWS Amazon Web Services RESTful API Postman · 留言


利用 IAM User 共享資源

在前面的文章提到,某 root user 建立了許多資源,那麼要怎麼分享給其他人呢?在這裡可以用 root user 來建立 IAM user 來管理對資源存取的權限,就能讓團隊成員一同共享資源。

IAM Serverless AWS Amazon Web Services · 留言


利用 API Gateway + Lambda Function 從 DynamoDB 讀資料

如何利用 API Gateway 與 Lambda Function 從 DynamoDB 讀資料呢?本文主要分三個部份:(1) 利用 DynamoDB 建立資料表;(2) 利用 Lambda Function 執行 Scan Operation;(3) 透過 API Gateway 觸發 Lambda Function。

Lambda API Gateway DynamoDB Serverless AWS Amazon Web Services RESTful API · 留言


Hello Lambda Function

如何撰寫一個 Lambda function 並且能讓外部來叫用呢?本文主要分三個部份:(1) 基本使用,利用瀏覽器或 Postman 呼叫網址,觸發 Lambda 來做一些事情;(2) 怎麼帶網址參數;(3) 利用 API Gateway 來建立 RESTful API。

Lambda API Gateway Serverless AWS Amazon Web Services RESTful API Postman · 留言


Architecting on AWS 筆記:Networking

Networking。

IAM Serverless AWS Architecting on AWS Amazon Web Services 讀書會 閱讀筆記 趨勢科技 Trend Micro · 留言


Architecting on AWS 筆記:Backup and Restore

Backup and Restore。

CloudFormation Serverless AWS Architecting on AWS Amazon Web Services 讀書會 閱讀筆記 趨勢科技 Trend Micro · 留言


Architecting on AWS 筆記:Edge Services

Edge Services。

CloudFront Serverless AWS Architecting on AWS Amazon Web Services 讀書會 閱讀筆記 趨勢科技 Trend Micro · 留言


Architecting on AWS 筆記:Serverless

Serverless。

Serverless Lambda API Gateway AWS Architecting on AWS Amazon Web Services 讀書會 閱讀筆記 趨勢科技 Trend Micro · 留言


Architecting on AWS 筆記:Container

Container。

Architecting on AWS AWS Serverless Amazon Web Services 讀書會 閱讀筆記 趨勢科技 Trend Micro · 留言


Architecting on AWS 筆記:自動化服務 (Automation)

自動化服務 (Automation)。

CloudFormation Serverless AWS Architecting on AWS Amazon Web Services 讀書會 閱讀筆記 趨勢科技 Trend Micro · 留言


Architecting on AWS 筆記:Monitoring and Scaling

Monitoring and Scaling。

Lambda Serverless AWS Architecting on AWS Amazon Web Services 讀書會 閱讀筆記 趨勢科技 Trend Micro · 留言


Architecting on AWS 筆記:資料庫服務 (Database Services)

資料庫服務 (Database Services)。

DynamoDB Serverless AWS Architecting on AWS Amazon Web Services 讀書會 閱讀筆記 趨勢科技 Trend Micro · 留言


Architecting on AWS 筆記:雲端儲存服務 (Cloud Storage)

雲端儲存服務 (Cloud Storage)。

Architecting on AWS Serverless AWS Amazon Web Services 讀書會 閱讀筆記 趨勢科技 Trend Micro · 留言


Architecting on AWS 筆記:運算資源 (Compute Service)

運算資源 (Compute Service)。

Lambda Serverless AWS Architecting on AWS Amazon Web Services 讀書會 閱讀筆記 趨勢科技 Trend Micro · 留言


Architecting on AWS 筆記:Account Security

Account Security。

IAM Architecting on AWS AWS Amazon Web Services Serverless 讀書會 閱讀筆記 趨勢科技 Trend Micro · 留言


Architecting on AWS 筆記:基礎設施

AWS Modules 與基礎設施。

Architecting on AWS AWS Amazon Web Services CloudFormation CloudFront Serverless 讀書會 閱讀筆記 趨勢科技 Trend Micro · 留言