Добавление нового пользовательского действия в проект предотвращает запуск существующего пользовательского действия

Я испытал точно тот же симптом, который вы описываете. Кажется, есть проблема с набором инструментов WiX. Моя версия WiX tolset - 3.8, и у меня также было пользовательское действие, которое не запускалось, и изменение его имени исправило проблему. Компилятор SFX просто компилирует сломанную DLL без каких-либо признаков проблемы. Хуже всего то, что в моем случае это была функция, которая должна была запускаться при удалении с результатом="ignore", поэтому у меня даже не было бы немедленное указание на наличие проблемы после запуска фактического установщика.

Я попытался экспериментально понять, в чем именно заключается проблема с именем, и не нашел никакого удовлетворительного объяснения. По-видимому, не имеет значения, где в исходном коде находится нарушающая функция, как она выглядит в алфавитном порядке (например: функции преуспевают, которые находятся до и после нее в алфавитном порядке). Загрузка DLL в depends.exe показывает, что есть экспорт, но при попытке выполнить rundll32 он не может найти этот экспорт. Изменение его названия устраняет проблему. Кроме того, иногда вы можете добавить еще одну функцию, и неудачная из них будет успешной, но та, которую вы только что добавили, вместо этого терпит неудачу.

Вот что я сделал, чтобы исправить эту проблему: я написал программу на C++, которая загружает скомпилированное пользовательское действие и проверяет экспорт. Затем я написал модульный тест, который проверил все экспортные операции в пользовательском действии. Очевидно, что это не исправит проблему, но, по крайней мере, у вас будет сбой модульного теста и вы будете знать, что ваш установщик сломанный. Вот код c++, если вам интересно:

typedef int(__stdcall *CustomActionProc)(HANDLE);

int _tmain(int argc, _TCHAR* argv[])
{
    if (argc != 3)
    {
        _tprintf(_T("Parameters: DLL, EntryPoint\n"));
        return 1;
    }

    LPCTSTR dllName = argv[1];
    LPCTSTR entryPoint = argv[2];

    HMODULE hLib = LoadLibrary(dllName);
    if (hLib == NULL)
    {
        _tprintf(_T("Error loading %s\n"), dllName);
        return 1;
    }

    CustomActionProc procAddress = 
        (CustomActionProc) GetProcAddress(hLib, CStringA(entryPoint));
    if (procAddress == NULL)
    {
        _tprintf(_T("Error locating entrypoint %s\n"), entryPoint);
        return 1;
    }

    return 0;
}

И модульный тест:

    [TestMethod]
    public void TestCustomActionCanBeInvoked()
    {
        var asm1 = typeof(MyCustomActionsClass).Assembly;
        var methods = asm1.GetTypes().SelectMany(t =>
            t.GetMethods().Where(m => m.GetCustomAttributes(false)
                    .Where(a => a.GetType().Name == "CustomActionAttribute").Any()));

        var binFolder = (new FileInfo(this.GetType().Assembly.Location)).DirectoryName;
        var customActionsSfx = Path.Combine(binFolder, "MyCustomAction.CA.dll");
        var testMsiExport = Path.Combine(binFolder, "TestMsiExport.exe");

        foreach (var m in methods)
        {
            Trace.WriteLine("Method Name: " + m.Name);

            var p = Process.Start(new ProcessStartInfo()
            {
                FileName = testMsiExport,
                Arguments = "\"" + customActionsSfx + "\" " + m.Name,
                UseShellExecute = false,
                RedirectStandardOutput = true,
            });

            p.OutputDataReceived += (s, d) => Trace.WriteLine(d.Data);
            p.BeginOutputReadLine();
            p.WaitForExit();

            if (p.ExitCode != 0)
            {
                Assert.Fail("Bad Sfx export detected! Export name: " + m.Name);
            }
        }
    }

Надеюсь, это поможет кому-то в моей ситуации. Это был очень неприятный день, когда я пытался разобраться с этим.

Это на самом деле довольно странно, но после долгого поиска ответов и попыток много разных вещей я попытался изменить имя нового CA с SetApplicationAutoStart на ConfigureApplicationAutoStart, и это привело к SetAppPoolLoadUserProfileTrue, чтобы начать работать правильно снова