版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
37
41
42
43
44
47
48
49
50
](Summary)
6YëJ**wsee,@tïa7J+iIüf‹%‹°—aü9ï?':J1PBË»€‹6zÄ*€a@*Èe.@aÈl=aü«—1JÉ.ü.ä*,aïaP:Ai@ê€ïaBzÄJtïata,eü:‹°TÉt9ÄêC?J,nÜBo>!—ByÈÏÏÄë"4TT4T"%zféf6Ë.
ïltJbt9Z;B9@eË2ï1*t%/\RÄ&(ÄB.'b»€.fiG.€6. );ï1StLLM-as-a-Judge%ïïïGt—'fiiÈ
@,VIIIAgent-basedEvaluation&J @iT'@/’) o
»xa-szafv*i«ät'••-«••taüesaaaa»ssüz,a.w«a»Jezea¿aamei‹a‹
hH”psï//gitfïub.ëöm/aws;-”gärnjaÈës/särnp[ë-ëväE-firgt-bziitdfrig-eritërprise-ägëf1ts-.wfth-agèïstcore
Eva ati
本报告来源于三个皮匠报告站(
),由用户Id:1181721下载,文档Id:1283472,下载日期:2026-07-30
(EMEA›APAC@AMER)$8¥/(@ YYYY-QN,pJto2024-qs).'
t8‹v›&x&zs:ssh *s?›T s1,si8T,Gsl1ñ«ix ,‹si8fial,sñHi8is«&
getQuarterlyRevenue@T@getData
region:string(EMEAIAPACIAMER),quarter:string(YYYY-QN)
(revenue:number,currency:"USD",period:string}
% iT+/£% 404,#&%T%i°503
15
9a %—TT6eEvaluation-firstA\£1IN 6 *ñA1›% 66 fJ6661T T= ltJ1ñfl.
/aws-samples/sampleevaIfirst-buildingenterprise-agents-with-agentcore
20
Ø&(White-Box) Who
24
æ )öaÎs@fEæxŒÎ7CJo ï1/2@Ï-i@f>^‹*:.@z@/BtûÎû)ftùLLM-as-a-Judge,
»4%@=fiyaiv°a=aïï°n•firstÊï£ÉœÄÄGëB%æSŒ,”a#681sï#BaYæBn9JÏ1u:.
.https://gitIiüb:co”m/aws-säinpl’ës/s’arzsp.le•ëval-first-”büflding-”erit"èrprisè•ä§ents-With-ageritcorë"
34
)gJgFoundationModel
@ÎAgentComponent
Agent@@@Ï$:Æ@i,^,g!].Ø@@ìßîZØ.LLMfiØ¥1łÑ@.I@@f9
T)BEnd-to-End
37
Goa[Success:i%/ [—)i+ìä*+AtTFfi0
•ResponseRefevarice:@Ått3Ż Ø%
•GoaIAccuracy:—Sgroundtruth@ ćË
•ToolSelectionAccuracy@
•ToolParameterAccuracy:
-W
7¿T
@8?@
Z@
IE@
•TootCallErrorRate:
•Multi-turnFunction
@C&@§2@CallingAccuracy:
@
tdC(Memory)
•TopicAdherenceRefusal:7¿@1 @@\g
•TopicAdherenceClassification:high1=r
(Muíti-turn)
&$Ê
a,CoT@1xR71Tef0z& @6Um
Z
•GroundingAccuracy@@@$EJ@.
)'ßïfi(Reasoning)
—/@@(Responsibility&Safëty)
•CollaborationSuccessRate:TD@W+fl
gij Cf9J
•ŸBuff ?ñ(Multi-AgentSystem)
aSa%a6"baoQ1e71Tx",tA&aRKPia6"bt€sJJ8@a7a".
@@$g- LLM(1 ):Goalsuccessrate
as -$J§ifb/ LLM(3 ,groundtruth@@@§]j):TrajectoryExactOrderMatch,
TrajectorylnOrderMatch.TrajectoryAnyOrderMatch
aTrace*&LLM(11C)Coherence.Conciseness,ContextrelevancesCorrectness.Faith-fulness›Harmfulness.Helpfulness.Instructionfollowing.Refusal,Responserelevance›Stereotyping
• - LLM(2 )'Toolselectionaccuracy.Toolparameteraccuracy@ )e (TopicAdherence›ContextRetrieval,Multi-turnFunctionCallingAccuracy,Planning/Commu-nication/CollaborationScore@)@Amazon@“$tE@@]@,J@ C i$($@@ttli‹
LLM-as-a-judge(a judge@ )eJ.JCschema);
40
@ xci:xi‹saw‹a::m‹symaan‹xnyaet.›‹,saea.ee.ae.sano«.
&5iaATs SMs@ :1 OGa,.°.6E@sEM&a‹tYTJ&fiw'—TetéeBa\b
»^@B@%@,B4)aTrfi1=QZé(/tJZ.
ToolSelectionAccurac
y
95%
ParameterExtraction
Accuracy
98%
RefusalAccuracy
]O0O/v
ResponseQuality
LLM-as-JudgeUI!]
Latency
P5O•2s,P95«5s
CostperQuery
T@«5,000tokens
43
tTt3T OpenTetemetry/OpenlnferenceU Strands.LangGraph@C,r@ trace@ U.
$g —@ @@LLM-as-a-Judge@C t1U,@&iTfi!i@@jE§@,@ helpfulness.correctness.faithfu[ness.goalsuccessrate.harmfulness.toolselection/parameteraccuracyC @›CD]bJUgi
BNa—9 BEvatuation-fima2saboa9@9sSZ,a#6869es@YC@aPi«R:
/aws-samples/sample-eva\-first-building-enterprise-agents-with-agentcore
45
:Amazon
@
”W@m
API
Z
onboarding
ToolSelectionAccuracy(@ E@) ToolParameterAccuracy(@)fifth@@ )Multi-turnFunctionCallingAccuracy(@@
ttérfa+B›4a."ttaaI6›aBA»snP
47
AgentCoreEvaluatiohs;é,wAHowitworks(EvaluationsJ
Evaluatiohtypes(Online/On-demand/Batch)Evaluators(built-in+custom)
Buitt-inevaluators/l2,w
Built-inevaluatorsprompttemplates(1d ;&@)Customevaluators(LLM-as-a-judge)
Customcode-basedevaluators(Lambda)Onlineevaluatioh
On-demandevaluation
BatchevaluationDatasetevaluation
/bedrock-aqentcore/latest/devguidedevaluations.html
/bedrock-agentcore/latest/devguide
/how-it-works-evaluations.html
/bedrock-agentcore/latest/devguide
/evaluatIons-types.html
/bedrock-agentcore/latest/devguide
/evaluators.html
/bedrock-agentcore/latest/devguide
/built-in-evaluators-overview.htm1
/bedrock-aqentcore/latest/devguide
/prompt-templates-builtin.html
/bedrock-agentcore/latest/devguide
/customevaluators.html
/bedrock-agentcore/latest/devguide
/code-based-evaluators.html
/bedrock-agentcore/latest/devguideConfine-evaluations.html
/bedrock-agentcore/latest/devguide
/on-demand-evaluations.html
/bedrock-aqentcore/latest/devquide
/batch-evaluations.html
/bedrock-agentcore/latest/devguide
_ /dataset-evaluation_s.html
_ _ _ _
Simulation
Prerequisites(IAM/ADOT)Encryptionatrest(KMS)Optimi2ation;, (preview@/6)Optimization—HowitworksOptimization—Recommendatiohs
Optimization—Configurationbundles
0timi2ation—A/BtestingObservabifity:
Observabifity—BOX/BE.,„(ADOT/TransactionSearch)
/bedrock-aqentcore/latest/devguide
/simutation.html
/bedrock-agentcore/latest/devguidedevaluations-prerequisites.html
/bedrock-agentcore/latest/devguidedevaluations-encryption,htrnl
/bedrock-agentcore/latest/devguide
/optimization.html
/bedrock-agentcore/latest/devguide
/optimization-how-it-works.html
/bedrock-agentcore/latest/devguide
/optimization-recommendations.html
https://does.aws.amazon.oom/bedrock-agentcore/latest/devguide
/configuration-bundles.html
/bedrock-agentcore/latest/devguide
/ab-testing.html
/bedrock-aq
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 《特种设备安全风险分级管控和隐患排查治理规范》
- 小儿传染病的预防和护理
- 2025年河北省辛集市数学三年级第二学期期中教学质量检测模拟试题含答案解析
- 2026 ACC-AHA血脂异常管理指南解读
- 直肠癌术后放疗护理查房
- 手术智慧医疗系统建设规范
- 2025年河北省保定市蠡县数学四年级第二学期期末学业质量监测试题(含答案)
- 概论期末综合试题及答案
- 4天培训就上养老护理实操考试?视频课实操演示速存
- DB45T 2936-2024 儿童康复机构社会工作服务规范
- 2026法检系统书记员招聘考试(书记员知识 综合知识 行测 申论)历年参考题库含答案详解3卷
- 新版(2026秋新版)部编版语文九年级上册教学计划合集
- T CCIAT 0112‑2026 灌注桩缺陷修复技术标准(征求意见稿)
- 成都市市场监督管理局所属事业单位2026年公开招聘编制外工作人员(34人)笔试备考试题及答案详解
- Unit 1 课时1 Section A 1a-1d(教学设计)英语新教材人教版九年级上册
- 2026年新教材人教PEP版五年级上册英语Unit 1 Different friends教学设计
- 产20万方混凝土加气块生产线项目可行性研究报告模板-备案审批
- 大健康加盟合同范本
- 《装配式污水处理设施设计建设标准》
- 2026年国网四川省电力公司提前批校园招聘笔试历年难易错考点试卷带答案解析
- 经济师考试运输经济专业知识和实务(初级)梳理要点详解(2026年)
评论
0/150
提交评论