08基于aardio的键盘鼠标自动化技能


技能包下载地址:

https://gitee.com/cao15110/jineng

有问题欢迎留言交流!👇


name: "keyboard-mouse-automation" description: "Provides Windows command-line automation for mouse control, keyboard input, image and text recognition. Invoke when user needs to automate UI interactions through CLI commands."


键盘鼠标自动化 CLI 工具调用手册

一、工具概述

本工具为 Windows 命令行自动化工具,支持鼠标控制、键盘输入、区域找图、区域找字、延时等待功能。 智能体通过命令行传参调用,工具返回清晰结果供解析。

二、核心固定信息(全局通用)

  1. 工具绝对路径

"E:\trae\aardio\aaidiojihe\键盘鼠标自动化2026cil控制台给AI用\dist\cil控制台.exe"

  1. 调用环境:PowerShell
  2. 中文编码:使用CMD 执行需用 chcp 65001 解决乱码问题
  3. 坐标规则:左 上 右 下,全屏默认 0 0 1920 1080
  4. 帮助命令:-h / --help / help

三、调用格式

工具路径 命令名 参数...

所有示例中,直接使用「工具路径」代指完整 exe 路径,无需重复书写。

四、支持指令与示例

1. 鼠标移动

  • 指令:move
  • 参数:x y
  • 示例:
工具路径 move 500 500
  • 返回:移动鼠标到:500,500

2. 鼠标点击

  • 指令:click
  • 参数:x y
  • 示例:
工具路径 click 500 500
  • 返回:点击:500,500

3. 键盘输入文本

  • 指令:type
  • 参数:"文本内容"(空格/中文必须加英文双引号)
  • 示例:
工具路径 type "测试内容123"
  • 返回:输入:测试内容123

4. 键盘按键/快捷键

  • 指令:keypress
  • 参数:按键名
  • 常用示例:
工具路径 keypress enter
工具路径 keypress esc
工具路径 keypress space
工具路径 keypress backspace
工具路径 keypress tab
工具路径 keypress up
工具路径 keypress f5
工具路径 keypress delete
  • 组合键示例:
工具路径 keypress ctrl+a
工具路径 keypress ctrl+c
工具路径 keypress ctrl+v
工具路径 keypress alt+f4
工具路径 keypress win+d
  • 键盘双击:
工具路径 keypress a double
工具路径 keypress alt double
工具路径 keypress ctrl double

5. 延时等待

  • 指令:wait
  • 参数:毫秒(1s=1000)
  • 示例:
工具路径 wait 2000
  • 返回:等待:2000ms

6. 区域找图

  • 指令:findimg
  • 参数:图片路径 左 上 右 下
  • 示例:
工具路径 findimg "D:\temp\img\test.png" 0 0 1920 1080
  • 成功:✅ 找到图片!坐标:xxx,yyy
  • 失败:❌ 未找到图像 / 无法加载图像文件

7. 区域找字

  • 指令:findtext
  • 参数:"目标文字" 左 上 右 下
  • 示例:
工具路径 findtext "更多" 57 193 192 385
  • 成功:
✅ 找到文字:更多
坐标:xxx,yyy
  • 失败:❌ 未找到文字:更多

五、智能体执行逻辑

  1. 根据需求选择指令
  2. 拼接命令:中文/空格必须加英文双引号
  3. 执行并解析返回结果
  4. 找到坐标后 → 调用 click 点击
  5. 多步骤用 wait 保证稳定

六、注意事项

  1. 坐标必须合法:右 > 左,下 > 上
  2. 图片路径必须真实存在(PNG/JPG)
  3. 找字依赖文字清晰度,模糊可扩大区域
  4. CMD 中文乱码:执行 chcp 65001

七、执行速度优化

  1. 合并执行(PowerShell):
& '工具路径' 命令1; & '工具路径' 命令2; & '工具路径' 命令3
  1. 关键步骤加 wait
  2. 缩小找图/找字区域提升速度
  3. 缓存坐标,避免重复搜索

八、最佳实践

  1. 流程:定位(找图/找字)→ 操作(点击/输入)
  2. 必须解析返回结果,处理失败情况
  3. 坐标小数建议取整后点击
  4. 中文/空格参数必须用英文双引号
  5. 正式执行前先测试单命令

文章作者: 摸鱼
版权声明: 本博客所有文章除特別声明外,均采用 CC BY 4.0 许可协议。转载请注明来源 摸鱼 !
  目录