Python 聊聊 PC 端自动化最佳方案 - WinAppDriver

星安果 · 2021年08月11日 · 最后由 Jamie 回复于 2022年04月07日 · 5306 次阅读

1. 前言

大家好,我是安果!

一提到自动化,可能大家想到的是 App 端的 Appium、Airtest、AutoJS,亦或是 Selenium、Puppeteer、Cypress 等 Web 端的自动化框架

本篇文章,我将和大家聊聊 PC 端的自动化工具 - WinAppDriver

​2. 准备

WinAppDriver,全称为 Windows Application Driver,它是 Windows 上一个类似 Selenium 的 UI 自动化驱动服务框架

它支持 Appium,可以使用 Appium-Python-Client 依赖库完成对 Windows 桌面程序的自动化操作

项目地址:https://github.com/Microsoft/WinAppDriver

需要注意的是,要使用 WinAppDriver 服务框架完成 Windows 的自动化,需要满足 Windows10 或 Windows Server 2016 以上系统

另外,它支持的应用程序包含:

  • UWP  -  Universal Windows Platform

  • WinForms  -  Windows Forms

  • WPF  -  Windows Presentation Foundation

  • Win32  -  Classic Windows

在实现之前,我们需要做好以下准备工作

2-1  开启「 开发者模式 」

关键字搜索「 开发者设置 」,选择开启「 开发者模式 」

2-2  安装窗口组件元素识别工具

常用的 2 种窗口元素识别工具为:inspect.exe、FlaUInspect

其中

作为官方的组件元素识别工具,inspect.exe 集成于 Windows SDK

如果本地不存在该文件,可以通过下面链接进行安装

https://download.microsoft.com/download/4/d/2/4d2b7011-606a-467e-99b4-99550bf24ffc/windowssdk/winsdksetup.exe

相比 inspect.exe,FlaUInspect 界面更简洁,功能更易用( 推荐 )

项目地址:https://github.com/FlaUI/FlaUInspect

2-3  安装 WinAppDriver

通过下面链接下载 WinAppDriver 应用程序,并在本地运行起来

https://github.com/Microsoft/WinAppDriver/releases

2-4  搭建 Appium 环境

这部分内容涉及 NodeJS 安装及 Appium-Server 环境的搭建

可以参考:https://www.cnblogs.com/amoyshmily/p/10500687.html

2-5  安装依赖

最后安装 Python 依赖库 Appium-Python-Client

# 安装依赖 Appium-Python-Client
pip3 install Appium-Python-Client

3. 实战一下

我们以操作 PC 端的微信为例,聊聊自动化的常见步骤

首先,我们在本机打开 WinAppDriver 服务,让它在后台运行

然后,我们使用 Python 编写自动化脚本

通过 ip 地址、端口号及 PC 版微信的绝对路径,使用 Appium 打开微信

import time, os
from appium import webdriver
from selenium.webdriver import ActionChains
from selenium.webdriver.common.keys import Keys
from time import sleep

class Auto():

    def open_weixin(self, host='localhost', port=4723):
        # 打开WinAppDriver服务
        # 注意:如果手动开启,则可以注释掉
        # os.system(r'start "" /d "C:\Program Files\Windows Application Driver\"  "WinAppDriver.exe"')

        # 配置信息
        # 包含:平台名、系统、应用程序绝对路径
        desired_caps = {'platformName': 'Windows', 'deviceName': 'WindowsPC',
                        'app': r"D:\Program Files (x86)\Tencent\WeChat\WeChat.exe"}

        try:
            # 连接WinAppDriver服务,打开目标软件
            self.driver = webdriver.Remote('http://{}:{}'.format(host, port), desired_caps)
        except Exception as e:
            raise AssertionError(e)

接着,通过「 组件元素识别工具 」拿到界面元素的属性值,执行常见的点击、移动、滑动等操作

比如:点击「 文件传输助手 」,发送一条信息

# 给文件传输助手发送一条信息
def send_msg(self, element_name, msg):
    """
​    :param element_name:元素name值
    :param msg:
    :return:
    """
    # 通过name属性,找到目标元素
    chat_element = self.weixin_driver.find_element_by_name(target_name)

    # 点击元素,进入聊天界面
    chat_element.click()

    # 找到输入框,并输入
    self.weixin_driver.find_element_by_name("输入").send_keys(msg)

    # 点击右下角的发送,发送消息出去
    self.weixin_driver.find_element_by_name("发送(S)").click()

需要注意的是,如果涉及界面的滑动,可以使用「 ActionChains 」移动鼠标,然后使用 win32api 和 win32con 模拟屏幕滑动即可

import win32api
​import win32con
from appium import webdriver
from selenium.webdriver import ActionChains

# 模拟屏幕滑动
# 1、移动到某个元素区域
ActionChains(self.weixin_driver).move_to_element(
     self.weixin_driver.find_element_by_name("element_name")).perform()

# 2、滑动界面
# 比如,向上滚动,模拟滑动
win32api.mouse_event(win32con.MOUSEEVENTF_WHEEL, 0, 0, -500)

完成自动化操作后,就可以主动释放资源、关闭 WinAppDriver 服务

# 释放资源及关闭服务
def tearDownFunc(self):
​    print("准备退出")
    sleep(2)

    # 1、释放资源
    self.weixin_driver.quit()

    # 2、关闭WinAppDriver应用程序
    os.system(' @taskkill /f /im WinAppDriver.exe')

4. 最后

在实际使用过程中,可能会遇到复杂的桌面应用程序,这时我们可以通过打印驱动对象的「 page_source」元素控制树值,以此来帮助我们进行快速定位元素,进而完善自动化脚本

如果你觉得文章还不错,请大家 点赞、分享、留言 下,因为这将是我持续输出更多优质文章的最强动力!

共收到 9 条回复 时间 点赞

可以也介绍下底层原理,以及是否有什么局限性么?

驱动、获取元素是小麻烦,断言、批量维护是大麻烦

这个东西很难用。。很多元素识别不到 很多界面用它的 api 截不了图,最后我换成了图像识别去搞定。

我之前也玩过这个,但是不支持 QT,导致我现在在用 ranorex

PC 端最烦的问题是都看上去叫客户端,但不拆开来看根本不知道里面嵌的是什么玩意。
目前调研结果是 ranorex 的适配性最好,但脚本对没接触过.net 的不太友好,除非是刚需不建议学,另外 ranorex 不是免费的。

这个 Pc 版自动化的能解析到句柄窗体下面的 dom 树嘛?

pc 自动化,第一次接触

楼主请教下 这个怎么解决?
C:\Users\CNHUZHU6\Desktop\资料\Daas\接口\Daas\venv\Scripts\python.exe C:/Users/CNHUZHU6/Desktop/资料/Daas/Daas 自动化/Daas_Auto_Test/PC_client_demo.py
Traceback (most recent call last):
File "C:/Users/CNHUZHU6/Desktop/资料/Daas/Daas 自动化/Daas_Auto_Test/PC_client_demo.py", line 23, in open_PCclient
self.driver = webdriver.Remote('http://{}:{}'.format(host, port), desired_caps)
File "C:\Users\CNHUZHU6\AppData\Local\Programs\Python\Python36\lib\site-packages\appium\webdriver\webdriver.py", line 268, in init
AppiumConnection(command_executor, keep_alive=keep_alive), desired_capabilities, browser_profile, proxy
File "C:\Users\CNHUZHU6\Desktop\资料\Daas\接口\Daas\venv\lib\site-packages\selenium\webdriver\remote\webdriver.py", line 157, in init
self.start_session(capabilities, browser_profile)
File "C:\Users\CNHUZHU6\AppData\Local\Programs\Python\Python36\lib\site-packages\appium\webdriver\webdriver.py", line 357, in start_session
response = self.execute(RemoteCommand.NEW_SESSION, parameters)
File "C:\Users\CNHUZHU6\Desktop\资料\Daas\接口\Daas\venv\lib\site-packages\selenium\webdriver\remote\webdriver.py", line 321, in execute
self.error_handler.check_response(response)
File "C:\Users\CNHUZHU6\Desktop\资料\Daas\接口\Daas\venv\lib\site-packages\selenium\webdriver\remote\errorhandler.py", line 242, in check_response
raise exception_class(message, screen, stacktrace)
selenium.common.exceptions.WebDriverException: Message: The requested resource could not be found, or a request was received using an HTTP method that is not supported by the mapped resource

During handling of the above exception, another exception occurred:

Traceback (most recent call last):
File "C:/Users/CNHUZHU6/Desktop/资料/Daas/Daas 自动化/Daas_Auto_Test/PC_client_demo.py", line 36, in
win.open_PCclient()
File "C:/Users/CNHUZHU6/Desktop/资料/Daas/Daas 自动化/Daas_Auto_Test/PC_client_demo.py", line 25, in open_PCclient
raise AssertionError(e)
AssertionError: Message: The requested resource could not be found, or a request was received using an HTTP method that is not supported by the mapped resource

Process finished with exit code 1

image

需要 登录 后方可回复, 如果你还没有账号请点击这里 注册